AI regulation and policy-making: ethical and legal issues on unstable ground

Calls for the regulation of Artificial Intelligence (AI) technologies are numerous and have been raised by a wide range of actors. The urgency of regulatory decisions is confronted by the vast diversity of AI technologies and applications, but also, and perhaps more fundamentally, by the very unstable foundations on which the normative discourse on the use of AI has to be built, both conceptually and practically. The cornerstones of modern law rest on concepts such as individual autonomy, rationality, and intentionality, attributed to identifiable human subjects. AI systems, interacting with human users as quasi-autonomous and often inscrutable "agents", crack these pillars, creating a dual tension: one of a conceptual nature, which questions the validity of our fundamental moral and legal categories, and one of a practical-temporal nature, which challenges the very ability of the law to keep pace with technological change.

Le richieste di regolamentazione delle tecnologie di intelligenza artificiale (IA) sono numerose e sono state avanzate da una vasta gamma di attori. L'urgenza delle decisioni normative si scontra con la grande diversità delle tecnologie e delle applicazioni dell'IA, ma anche, e forse in modo più fondamentale, con le basi molto instabili su cui deve essere costruito il discorso normativo sull'uso dell'IA, sia dal punto di vista concettuale che pratico. I pilastri del diritto moderno si basano su concetti quali l'autonomia individuale, la razionalità e l'intenzionalità, attribuiti a soggetti umani identificabili. I sistemi di IA, che interagiscono con gli utenti umani come “agenti” quasi autonomi e spesso imperscrutabili, incrinano questi pilastri, creando una doppia tensione: una di natura concettuale, che mette in discussione la validità delle nostre categorie morali e giuridiche fondamentali, e una di natura pratica-temporale, che sfida la stessa capacità del diritto di stare al passo con il cambiamento tecnologico.