Assistant Professor of Sociology of Law and Social Change, Facoltà di Lettere e Filosofia, Lingue e Beni Culturali,Università del Salento, Lecce - Italia. E-mail: <stefano.magnolo@unisalento.it>. http://orcid.org/0000-0001-7252-8822
Laurea in Giurisprudenza e diploma di Specializzazione in professioni legali presso l’Università del Salento,Lecce - Italia. Avvocato presso il foro di Lecce - Italia. https://orcid.org/0000-0001-5981-9289
Le nuove tecnologie dell’informazione e della comunicazione giocano un ruolo rilevante per i sistemi sociali coinvolti. Per questo la descrizione teorica della società non può trascurare la dipendenza sempre maggiore della società moderna dalla tecnologia. Il nostro articolo si prefigge l’obiettivo di esaminare il progresso tecnologico dal punto di vista della evoluzione degli strumenti giuridici regolativi delle nuove tecnologie. Si tratta di un punto di vista sociologico-giuridico dove è in gioco la dinamica dell’evoluzione del diritto rispetto alla evoluzione della società. Diversamente da altri settori del di-ritto, esempio classico il diritto di famiglia, qui non c’è una tradizione consolidata alla quale riferirsi o da rigettare. Ciò significa che le soluzioni devono essere “inventate” alla luce di paradigmi nuovi che, pur facendo appello a figure giuridiche fondamentali, abbiano una capacità visionaria, siano cioè, come dice Luhmann, “gravidi di futuro”. Il nostro discorso partirà dunque da un inquadramento teorico generale delle dinamiche diritto-tecnologia-società per concludere avendo come riferimento il caso specifico della intelligenza artificiale.
The new information and communication technologies play a relevant role for the social systems involved. For this reason, the theoretical description of society cannot neglect the growing dependency on technology by the information society. Our article is aimed at examining technological progress through the point of view of the evolution of legal instruments that regulate new technologies. It embodies a legal and sociological point of view in which the dynamics of the evolution of Law regarding the evolution of society is at play. Unlike other sectors of Law, the classic example being Family Law, here there is no consolidated tradition to which one can report or which one can reject. This means that the solutions must be “invented” in light of the new paradigms that, appealing to fundamental legal institutes, have a visionary capacity, that are, as Luhmann says, “pregnant with the future”. Our discourse will thus stem from a general theoretical placement of the dynamics among Law, technology and society to conclude having as reference the specific case of artificial intelligence.
Las nuevas tecnologías de información y comunicación tienen un rol relevante para los sistemas sociales involucrados. Por esa razón, la descripción teórica de la sociedad no puede descuidar a la creciente dependencia de la sociedad de la información en la tecnología. Nuestro artículo se propone a examinar el progreso tecnológico desde el punto de vista de la evolución de instrumentos jurídicos que regulan nuevas tecnologías. Él personifica un punto de vista jurídico y sociológico en que se analiza la dinámica de la evolución del Derecho en relación a la evolución de la sociedad. A diferencia de otros sectores del Derecho, el ejemplo clásico es el Derecho de Familia, acá no hay una tradición consolidada a la cual se puede recurrir o rechazar. Eso significa que las soluciones deben ser “inventadas” a la luz de los nuevos paradigmas que, haciendo apelo a institutos jurídicos fundamentales, tienen capacidad visionaria, que están, como lo dice Luhmann, “grávidos del futuro”. Nuestro discurso partirá entonces de un encuadramiento teórico general de la dinámica entre el Derecho, la tecnología y la sociedad para concluir teniendo por referencia el caso específico de la inteligencia artificial.
Questo articolo ha come oggetto l’osservazione delle dinamiche temporali nella dimensione sociale. Con ciò intendiamo riferirci alla questione delle trasformazioni strutturali che interessano la società nel suo complesso, alcuni ambiti della sua articolazione e le relazioni che intercorrono tra questi differenti livelli. Ma soprattutto intendiamo riferirci al fatto che ci poniamo al livello della osservazione di secondo ordine e infatti affermare che l’oggetto è costituito dalla osservazione di quelle dinamiche significa che noi osserviamo osservazioni (
Da una parte avremo dunque a che fare con la dinamica delle relazioni diritto-società, dinamica che costituisce il riferimento oggettuale primario della sociologia del diritto. Dall’altra, dobbiamo distinguere due differenti livelli di interazione. Il primo concerne l’interazione che intercorre tra le innovazioni prodotte da un particolare sistema sociale, quale il sistema scientifico, e la “risposta” del sistema giuridico a tali innovazioni. Questa la rappresentazione della dinamica diritto-società nel caso particolare della scienza: il diritto moderno si adatta, si dice, alla mutata realtà sociale. Il secondo livello di interazione corrisponde alla dinamica delle trasformazioni innescate dallo sviluppo tecnologico, che ha un effetto particolare sull’ambiente umano e sulla comunicazione.
Il diritto moderno, come la semantica, segue necessariamente a distanza l’evoluzione della società. È fatto apposta, potremmo dire. Ciò che lo rende moderno è proprio la sua continua mutabilità, a differenza del diritto antico, legittimato dalla tradizione o del diritto naturale, universalmente valido ed eterno come l’istanza della sua legittimazione. La società cambia e il diritto moderno si adatta a questi cambiamenti. Esempio classico quello delle relazioni intime, che forse sono quelle che più immediatamente riflettono il cambiamento del modo di vivere e sentire della società. In questi casi il diritto riconosce, per esempio, altre forme di convivenza diverse dal matrimonio che si sono diffuse nella realtà sociale contemporanea. Certo, in misura e con modalità differenti nei vari paesi, a ulteriore conferma dell’assenza di modelli unici di riferimento e della sostanziale contingenza di tutte le norme, con una sola eccezione: le norme costituzionali. Le costituzioni, infatti, costituiscono un elemento divergente rispetto alla dinamica temporale del diritto ordinario. In qualche modo sono una sorta di “residuo” dell’antico diritto naturale, come dimostrano le difficoltà incontrate da Kelsen nella ricerca della loro fonte di legittimazione.
Ancora alcune ulteriori specificazioni prima di descrivere il punto di vista a partire dal quale ci muoviamo. La prima riguarda la scienza. Parliamo di sistema scientifico ad indicare sia le scienze hard, che nel nostro caso potrebbero essere la cibernetica, le biotecnologie, e le ICT, sia le scienze soft, quali le scienze umane e sociali.
Se facciamo un passo indietro, vediamo come la nostra discussione solo apparentemente dovrebbe svolgersi a livello del sistema politico, in quanto investito appunto della selezione del materiale normativo astrattamente possibile. Tuttavia, come vedremo meglio più avanti, il discorso politico in quanto tale si svolge secondo logiche che qui non prenderemo in considerazione e che caratterizzano il momento della produzione del diritto. Questo momento si caratterizza come un procedimento, certo giuridicamente regolato abbiamo detto, che differisce sostanzialmente dai procedimenti giuridici e dalla loro logica e dove la discussione può svolgersi ammettendo le argomentazioni più disparate, ma che solo si conclude con il consenso della maggioranza sulla proposta selezionata (
Il binomio diritto-società, che abbiamo richiamato precedentemente ad indicare la dinamica coinvolta dal nostro tema, deve essere precisata in merito al nostro obiettivo, tenuto conto del riferimento teorico costituito dalla teoria dei sistemi sociali e dalla sua comprensione della società moderna come società funzionalmente differenziata.
Tanto per dire che anche il nostro discorso potrebbe svolgersi al livello di quella particolare scienza che è la scienza giuridica, come una teoria della riflessione del sistema giuridico, per usare il lessico luhmanniano. Ma il punto a partire dal quale ci muoviamo non è quello della teoria del diritto, di una autosservazione del sistema giuridico ma di una eterosservazione, di una osservazione esterna, una osservazione sociologica del sistema giuridico, in questo caso delle trasformazioni di questo sistema innescate da uno sviluppo tecnologico.
Ci troviamo qui in un ambito particolare di articolazione della nostra società. Ciò che ci interessa è lo sviluppo tecnologico e l’evoluzione delle strutture comunicative che questo sviluppo innesca. Parlare di tecnica e tecnologia, significa, dal nostro punto di vista, prendere in considerazione una implicazione sociale di queste in quanto le rendiamo oggetto della comunicazione, tema della comunicazione. Tuttavia, la tecnologia ha una rilevanza di altro tipo rispetto alla comunicazione quando ci riferiamo alle tecnologie della comunicazione, ma anche per quanto concerne i nuovi sviluppi tecnologici. Questo ha ricadute notevoli sul nostro tema, ma andiamo con ordine.
Una descrizione dell’evoluzione della società moderna può essere effettuata osservando lo sviluppo dei media della comunicazione, anche se spesso i sociologi hanno trascurato questo aspetto, se si pensa che, afferma Luhmann (
Dal punto di vista che ci interessa, la teoria dei sistemi offre un potente strumento utile a collocare la tecnologia e gli sviluppi tecnologici in quadro teorico più ampio e coerente rispetto al problema che stiamo trattando. Ci muoviamo, lo ripetiamo, nell’ambito del sistema sociale complessivo della comunicazione, caratterizzato dalla differenziazione funzionale di sottosistemi quali la scienza, il diritto, la politica, l’educazione, l’economia, la religione, per citare solo i maggiori, tra i quali non esistono rapporti gerarchici. Quando parliamo di evoluzione del diritto, abbiamo a che fare con una differenza tra sistema e ambiente, che in questo caso è riconducibile alla differenza tra il sistema del diritto e il suo ambiente costituito da tutti gli altri sottosistemi sociali, mentre l’ambiente esterno alla società è rimasto finora sullo sfondo. Tuttavia, una definizione della tecnologia che mutuiamo da Luhmann (
Questa definizione ci consente di introdurre quella innovazione specifica costituita dalla intelligenza artificiale. Ci stiamo spostando dalle ricadute dell’innovazione tecnologica sullo sviluppo dei media della comunicazione ad un nuovo paradigma tecnologico con implicazioni di natura ben differente. Già il computer e Internet definiscono chiaramente un ambito di sviluppo che consiste nell’incremento della capacità (limitata) umana di elaborazione della informazioni (
Se dunque il computer e Internet hanno costituito un fattore decisivo verso l’incremento della capacità umana di elaborazione delle informazioni, negli ultimi anni si è assistito a sviluppi straordinari in questa direzione. Ci riferiamo alle così dette tecnologie convergenti o tecnologie NBIC (nanotechnology, biotechnology, information technology and cognitive science), una convergenza tecnologica tra ambiti di ricerca una volta distinti e che ha ricadute sorprendenti in termini di human enhancement nella medicina, per esempio, cioè della possibilità di mettere in atto interventi tesi al “potenziamento umano”.
Da qui, limitatamente al nostro tema, due questioni ci appaiono rilevanti: da un lato, le conseguenze di questa convergenza sulla evoluzione dell’ambiente della società, che riprenderemo nelle conclusioni; dall’altro lato, un caso specifico di questo sviluppo tecnologico rappresentato dall’intelligenza artificiale e dalle problematiche che pone al diritto in relazione alla sua regolamentazione giuridica, che svilupperemo nel paragrafo successivo.
Con i termini “intelligenza artificiale” ci si riferisce tanto a una disciplina di studio, in questo caso appartenente all’informatica, quanto all’oggetto studiato. Potremmo definire i sistemi hardware/software dotati di Intelligenza Artificiale, come dei sistemi in grado di realizzare prestazioni che, a un osservatore comune, sembrerebbero essere di pertinenza esclusiva dell’intelligenza umana (
Potremmo essere alle soglie di una svolta epocale tale da mettere in discussione gli strumenti finora utilizzati per analizzare la società e i suoi sistemi sociali. Lo sviluppo tecnologico, che fino a ieri ha fornito moltissimi strumenti agli esseri umani tali da facilitare la vita e rendere possibile operazioni prima impensabili, starebbe per dare la vita a “oggetti” dotati di una qualche forma di pensiero autonomo. Questa è una dichiarazione forte e non condivisa da tutti. Vi è infatti chi sostiene che l’intelligenza artificiale non possa mai spingersi oltre rispetto alla risoluzione, neppure brillante, di piccoli problemi senza mai arrivare a sviluppare un’autocoscienza (
Faremo dunque largo uso del condizionale poiché l’ambito in cui ci muoviamo non è ancora chiaramente definito e le certezze sono veramente poche.
Tuttavia non possiamo esimerci dal constatare che auto a guida autonoma (
Dal punto di vista dei sistemi sociali, esse costituiscono una evoluzione del loro ambiente e ne dovranno tener conto. Un primo passo in tale direzione ci pare sia stato fatto con l’approvazione della Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103 (INL)). In tale documento si asserisce che
[...] nell’ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati (
Inoltre si arriva a contemplare l’ipotesi di istituire
[...] uno status giuridico specifico per i robot nel lungo termine, di modo che almeno i robot autonomi più sofisticati possano essere considerati come persone elettroniche responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che interagiscono in modo indipendente con terzi (
I passi appena riportati mettono in luce l’inadeguatezza dell’attuale sistema normativo rispetto a tali innovazioni, ma, d’altra parte, costituiscono tentativi di abbozzo di nuove norme che affrontino questi cambiamenti.
Varie sono le possibili nuove norme giuridiche che il documento citato a inizio paragrafo propone come soluzioni. La più affascinante e pregna di conseguenze è proprio l’attribuzione di una qualche forma di soggettività a questi nuovi “esseri”. Tuttavia, tale soluzione potrebbe sollevare nuove questioni che coinvolgono concetti e istituti posti alle fondamenta del sistema giuridico e frutto di evoluzioni millenarie: tramonterà nuovamente l’idea di soggetto di diritto unico in favore della presenza nel sistema giuridico di una pluralità di soggetti individuati da status differenziati sulla base di criteri diversi rispetto a quelli delle società pre-moderne: ma quali?
Assumendo il punto di vista della teoria dei sistemi, si potrebbe quasi affermare la neutralità del diritto rispetto all’eventuale nascita di esseri senzienti diversi da ciò che biologicamente si può individuare come essere umano. Infatti la teoria luhmanniana, espellendo i sistemi psichici dall’analisi del diritto come sistema sociale, si è resa immune a tali mutazioni. In altre parole che una sentenza sia resa da un giudice dotato di toga e martelletto o da un software dotato di intelligenza artificiale risulterebbe del tutto indifferente. Si tratterebbe pur sempre di operazioni giuridiche rese possibili dal sistema del diritto e di cui questo sarebbe pur sempre il risultato.
Il caso dell’intelligenza artificiale proposto nell’ultimo paragrafo del presente articolo induce ad una riflessione circa lo iato temporale tra evoluzioni tecnologiche e operazioni giuridiche. Il documento approvato dal parlamento europeo infatti non è affatto una norma giuridica, quanto un atto politico di impulso rivolto a un organo politico, la Commissione Europea, al fine di formulare una norma giuridica che, ad oggi ancora non esiste. Il gap temporale è frutto da un lato del rapporto, neppure stretto, tra diritto e politica, dall’altro dello stesso funzionamento della politica. Il rapporto diritto-politica, abbiamo visto, è circolare e ciò comporta che, nel momento in cui il diritto “ravvisa” la necessità di nuove norme deve attendere la politica oppure risolvere da sé i conflitti che sorgono e i casi che si presentato in qualche modo, ma: come?
Nonostante le trasformazioni strutturali e l’evoluzione semantica siano tra loro correlate, anche qui assistiamo ad un “ritardo”: il patrimonio concettuale idoneo a descrivere la società si stabilizza solo a distanza di tempo rispetto alla struttura sociale che pretende di descrivere. Sembra un fatto inevitabile. Una concettualità, per acquisire plausibilità e accettazione sociale diffusa deve necessariamente “attendere” che le novità, le deviazioni dalla norma, si siano in qualche modo stabilizzate (
E in ogni caso, per ciò che riguarda la semantica, ci muoviamo sempre in ambito sociale, nell’ambito della comunicazione, delle sue strutture e dei suoi media. Con la tecnologia, viceversa dobbiamo mettere in conto aspetti ulteriori. Fra questi il fatto che con la convergenza NBIC i confini tra scienze della vita e scienze hard, tra biologia e macchine convergono, come mostra il caso della intelligenza artificiale dove una macchina acquisisce caratteristiche proprie dell’intelligenza umana. A ciò va aggiunto il fatto che in questo modo, con riferimento al human enhancement, per esempio, la medicina sembra chiamata ad eccedere la sua funzione, proprio in quanto non deve occuparsi solo della cura delle malattie (
Qualcosa del genere si può notare anche per le prove scientifiche ammesse all’interno del processo penale. Si tratta di una pratica sempre più diffusa che ha finito per interessare anche metodologie non ancora comprovate all’interno della comunità scientifica, di fatto, in questo modo, “scaricando” sul diritto l’onere di attestarne la scientificità, cosa che evidentemente non appartiene ai suoi compiti.
Se trasformiamo dal nostro punto di osservazione le preoccupazioni per il “governo” delle scoperte scientifiche e del progresso tecnologico, non solo quelle di tipo etico, ma anche quelle relative alla capacità della società di seguirne le altre conseguenze a livello sociale, allora vediamo che il problema si pone nei termini, affatto tranquillizzanti, che possono essere espressi dalla domanda: la società complessivamente considerata sarà in grado di “sopportare” la rapidità dei cambiamenti innescati dal processo tecnologico?
In altri termini, se contestualizziamo il discorso nell’ambito dei processi evolutivi, possiamo vedere come, sulla scorta di una preoccupazione, non solo teorica, posta da Luhmann, la questione diventa quella di sviluppi parziali, non coordinati con la evoluzione della società, ma quasi indipendenti da essa e della capacità strutturale della società di accoglierli nella forma attuale, di cambiarla in conseguenza di questi (ma come?) o di non sopravvivere al loro impatto. Qui dobbiamo aggiungere che l’ambito particolare della intelligenza artificiale introduce una suggestione particolare al tema generale. Difatti qui possiamo assistere alla rarefazione stessa, potremmo dire, dei confini tra le scienze e tra i loro oggetti, tra scienza pura e applicata, tra science and humanities, tra la biologia, abbiamo detto, e la tecnologia, ma anche tra le macchine e gli esseri umani.
E il diritto, come si inserisce in questo quadro dove ben altre emergenze sembrano richiamare l’attenzione? La situazione di partenza che ha caratterizzato il nostro discorso sembra qui non essere più la stessa. Avevamo preso le mosse dal fatto che fosse possibile indicare caratteristiche specifiche per ciascuno degli ambiti di articolazione della società, anche per il diritto, la scienza e la tecnologia e ciò, tuttavia, sempre a partire da una unità pregressa rispetto alla quale tracciare differenze. Questa unità per i sistemi sociali sappiamo essere la comunicazione. Questa unità è al tempo stesso ciò che differenzia la società rispetto a tutto il resto, ad altre strutture della realtà, a ciò che chiamiamo ambiente della società, a ciò che non è comunicazione. Anche in base a questo abbiamo preso in considerazione una evoluzione della società che non ha referenze con l’evoluzione dell’ambiente. L’ambiente evolve più lentamente della società. Ora, però, alla fine del nostro discorso, ci troviamo con un quadro della situazione che sembra corrodere questi presupposti, la stessa differenza tra sistema della società e suo ambiente.
All’inizio del nostro saggio ci eravamo posti questioni quali: come evolve la società? il cambiamento tecnologico produce evoluzione sociale? è possibile una evoluzione non coordinata tra i sistemi sociali? Ora da un punto di vista giuridico, i quesiti connessi alle nuove acquisizioni tecnologiche spingono ad un approccio de jure condendo, sollevando altri interrogativi: a chi si potrebbe attribuire la paternità di un’opera intellettuale creata da un software dotato di intelligenza artificiale? E di conseguenza: a chi si potranno attribuire i diritti di sfruttamento economico di tale opera? a chi verranno imputati i danni creati dalle macchine nell’esercizio del proprio “libero arbitrio”? chi avrà il diritto di ricevere gli stipendi maturati dal lavoro svolto da tali nuovi “lavoratori”? E per concludere, con le parole di Luhmann, “Se siamo in grado di produrre esseri viventi mediante la manipolazione genetica, possiamo poi anche brevettarli?” (
“Parte del presente lavoro è stata sviluppata durante un soggiorno di ricerca presso il Centro de Estudios Politicos y Constitucionales (CEPC) di Madrid, realizzata tra ottobre 2017 e gennaio 2018”. (Nota do Editor: A Revista Opinião Jurídica agradece ao Sr. José Ilo Mota, responsável pela revisão da língua italiana.)
La norma fondamentale, sappiamo, non ha i caratteri della giuridicità, non essendo una norma scritta, ma presupposta e quindi non facente parte dell’ordinamento giuridico. Cfr. (
Cfr., tra gli altri, (
Già qui dovremmo citare anche le scienze cognitive, ma non sapremmo dove collocarle. D’altra parte, come vedremo più avanti, si tratta proprio di questo: della rottura di paradigmi consolidati, di differenze stabilizzate, di nuovi orizzonti che non si lasciano ricondurre a schematismi noti.
Per il concetto di differenziazione funzionale, si veda (
Cfr. a questo proposito, la differenza tra fattuale e normativo in Hans Kelsen: op. cit (
Ci riferiamo qui ad un concetto centrale delle teoria dei sistemi: cfr. (
Questo approccio è ben diverso da quello della scienza giuridica, come abbiamo cercato di chiarire: cfr., a questo proposito. (
Cfr. (
Su questo punto si intrecciano ambiti tra loro apparentemente lontani della comunicazione, come anche concetti distinti della teoria. Infatti, trattando dell’influsso dei media sull’evoluzione, Luhmann associa la tecnologia all’educazione e alla medicina rispetto alla loro funzione di produrre effetti sull’ambiente umano (
Cfr., fra gli altri, (
A questo proposito alcuni sottolineano il ruolo fondamentale della giurisprudenza nel contesto, per esempio, delle tecnologie NBIC, proprio per la rapidità del progresso tecnologico, che rende quasi immediatamente obsoleta ogni norma in materia: cfr. (
Si è parlato a questo proposito di post-umano e di post-umanesimo; cfr. per esempio (
Cfr. (