El propósito de este artículo es evaluar sí las IA podrían tener capacidades interpretativas, en los términos de la filosofía hermenéutica y si estas pueden usarse para que las IA puedan ejercer como jueces (en sentido jurídico). Esta valoración requiere partir de la exploración de problemas técnicos y ontológico-hermenéuticos que pueden surgir de la vinculación de las IA al mundo interpretativo del Derecho. Se pretende desde una dimensión metateórica abordar de un lado, los aspectos computacionales y técnico-jurídicos de las IA´s, con el fin de determinar si esa estructura técnica podría usarse para comprender y decidir los múltiples problemas jurídicos a los que se enfrenta el juez, y de otro, pensando desde la teoría ontológico-hermenéutica determinar si es posible que una IA pueda ejercer la tarea interpretativa y reemplazar así al juez. De esta forma, es necesario determinar los problemas y las posibilidades de mejoramiento y delimitación de las IA para la interpretación jurídica; uno de los métodos que la ciencia adoptó para la comprensión del mundo fue el lógico -deductivo bajo la construcción de un conocimiento seguro y verificativo, relacionado con la acumulación de datos. Sin embargo, este método es restrictivo cuando se piensa en la interpretación de actos humanos que requieren ser valorados y pensados como una forma de interrelación precisamente humana. Los actos humanos despliegan momentos inexplicables bajo los simples datos y requieren un cambio en el proceso mental de asimilación de la realidad. Heidegger increpó el papel de la ciencias como simplemente conocedoras de información, y se ocupó de lograr que el pensamiento humano salga de la seguridad y comodidad de la verificación empírica y ascienda hacia la preocupación por el ser mismo en tanto ser que piensa, actúa y establece consecuencias de sus actos. La hermenéutica gadameriana precisó aún más el planteamiento heideggeriano y concretó la acción humana dentro del leguaje, la interpretación y la misma historia o acontecer humano. El problema que se plantea en esta investigación es establecer qué límites hermenéuticos enfrentan las IA´s para realizar la tarea de interpretación y decisión jurídica. Para solucionar este problema se abordarán los siguientes objetivos: El objetivo general se centra en determinar cómo desde la perspectiva ontológico-hermenéutica es posible determinar los límites que tienen las IA´s para realizar la tarea de interpretación y decisión jurídica. El primer objetivo será estudiar las implicaciones necesarias del despliegue de las inteligencias artificiales, como una colección de métodos que usan acumulación de datos. El segundo objetivo será comprender las IA´s primero, en perspectiva no hermenéutica junto con las diferentes clases de IA útiles para el Derecho. El tercer objetivo será explicar los problemas cotidianos del Derecho, su ontología y hermenéutica y la decisión judicial y al tiempo determinar cómo se realiza la observación de eventos jurídicos (supuestos de hecho) intangibles. Para resolver el problema se usará la siguiente metodología: Se presentará el concepto y métodos a través de los que se generan las IA´s con el fin de establecer su posible relación con el concepto del Derecho. Posteriormente, se presenta una relación entre el problema de las fuentes de Derecho, el método para interpretar y decidir jurídicamente y el método usado por las IA´s para entender información.

Mientras la modernidad intentó poner en clave del sujeto mediante la introspección, el ejercicio de la voluntad del espíritu para pensar que el sujeto puede ver el mundo recurriendo a esos artilugios cognitivos, la contemporaneidad y la denominada “postmodernidad” han señalado que no es posible pensar sin una verdadera fusión con la realidad y con los elementos históricos, ubicados espacio-temporalmente, que aporta el mismo “ser” humano, intentando con ello anular la diferencia sujeto-objeto, par antitético que se convertiría entonces, en un concepto inescindible acompasado por el lenguaje como la vida misma del ser humano². El lenguaje humano se convierte entonces la forma de ser y en una nueva forma de pensar el existir.

De manera visionaria Gadamer adelantó este escenario al contraponer la interpretación a la simple función de la técnica, como la forma de “ver” el mundo, en modo comprensión, poniendo los ojos en marcha dentro del carruaje del lenguaje³. No debe causar extrañeza, que después de mucho trasegar en la modernidad, sea indispensable volver a los problemas hermenéuticos (Gadamer, 1999, p. 551). Este razonamiento tomará aún más importancia en la contemporaneidad con la creación y uso de las IA’s estableciendo su designio como recaudadoras de información y con ello, de una posible interpretación. Es en este escenario en el que se pretende abordar el problema de la distancia o no, en términos interpretativos entre el ser humano y la máquina y bajó qué método es posible. Esta nueva visión sobre la creación y uso de la tecnología explica la necesidad de abordar una reflexión de corte humanista sobre los problemas de la interpretación de su base epistémica, el lenguaje y el uso en las acciones que se generan en el mundo.

Las humanidades en la modernidad quedaron replegadas al exclusivo mundo de las ciencias tradicionales bajo los estándares seguros de conocimiento propios de la concepción racionalista de la ciencia. Por ejemplo, y especialmente, el método de la repetibilidad experimental y de laboratorio (Mill, 1917, p. 361). Este método estuvo fuera del alcance de las ciencias humanas porque es imposible repetir innumerables veces, experimentalmente y en condiciones de laboratorio la interpretación de un concepto relacionado con las ciencias humanas o con la acción humana. Contra este método racionalista y su vinculación a las humanidades, reaccionó la filosofía contemporánea en línea hermenéutica, comenzado por Schopenhauer, seguido por Nietzsche, pasando por Heidegger, Gadamer, Vattimo y Ricoeur (Guerrero González, 2016).

Esta aparente deficiencia metodológica que representantes del método lógico-deductivo encontraron las ciencias tradicionales en torno a las posibilidades de comprobación en las ciencias humanas, paradójicamente hoy se vuelve en su contra, porque en las IA’s se expresa de manera incontestable la necesidad de abordar problemas eminentemente humanistas, como la transformación del ser convertido ahora en lenguaje e interpretación; como sugiere gran parte de la filosofía postmoderna, la ciencia y el conocimiento en general no son más que una versión del mundo elaborada en el lenguaje humano (Habermas et al., 2003). La matemática en la modernidad, desde Descartes, había rehuido el problema de pensar una ontología -hermenéutica desde el ser mismo y no desde el Ente o desde el espíritu, porque en esa línea cartesiana el concepto del ser era inaccesible y, por lo tanto, había que dejarlo de lado (Descartes, 2002, p. 111 y ss.). De esta manera, se presumió la existencia de una aparente unidad sujeto-mundo, pero sin una reflexión interpretativa (hermenéutica). Frente a la soledad de la técnica, el mundo filosófico contemporáneo, reaccionó. En todo caso, la acción interpretativa debe ser una unión dialogante con otros intérpretes con quienes finalmente se formará un sentido común (Gadamer, 1999). Si aquel ser que comprende es en sí mismo lenguaje, si el ser actúa, piensa, interpreta y vive como lenguaje, como lenguaje logrado como una fusión (con otros), entonces la pregunta que deviene es cómo una IA puede asemejarse siquiera a ese ser que es lenguaje.

En los programas computacionales de los que surgen las IA´s, la construcción de comunidad interpretativa, circulo hermenéutico o ha visión de la historia, se convierte en un grave inconveniente, dado que la las IA no poseen ninguna autonomía moral o vivencia alguna. En una época anterior, mientras los computadores se encargaron únicamente de procesar la información, la reflexión y el pensamiento descansó en el mismo ser humano, la ciencia de la computación pudo continuar utilizando el lenguaje matemático binario basado en ceros y unos. Pero, cuando (hoy) se intenta reflexionar, interpretar, comprender o razonar, desde estos sistemas computacionales (ceros/unos), la ciencia computacional tiene problemas de interpretación, de comprensión, de lenguaje vivo, de comprensión histórica (Chowdhary, 2020, p. 603). No obstante, a pesar de esta consciencia, también es evidente que como producto de la modernidad la ciencia computacional vive un conflicto interno respecto a la pregunta sobre cómo abordar los problemas del lenguaje: si bien, se ha tomado consciencia sobre la importancia de los problemas sintácticos y semánticos, esta aproximación se reduce a un problema de probabilidades para no afrontar la fatal verdad: es imposible evitar los problemas propiamente humanos del lenguaje.

Las IA’s han puesto en primer plano y de manera profundamente práctica uno de los debates más extremos de la filosofía y de la misma existencia humana: ¿es posible reducir al lenguaje matemático el pensamiento? O se puede formular la misma cuestión desde la perspectiva contraria ¿es posible pensar sin asumir problemas hermenéuticos y culturales? O de forma hermenéutica: ¿es posible el pensamiento sin un “¿Ser” cultural y ubicado, tanto espacial como temporalmente? Es posible el razonamiento para un “Ser” sin cultura y sin historia, para un no-sujeto, como las IA’s. ¿Es posible para este no-ser juzgar, en sentido jurídico? Una IA puede ser comprendida como considera Abbott (2020), siguiendo el pensamiento de David Chalmers, como aquella máquina que resuelve problemas fáciles de la conciencia. Algunos ejemplos que presenta Abbott en el caso de los problemas fáciles son: usar la atención, clasificar e integrar información (Abbott, 2020, p. 26). Para Abbot (2020) es claro que estos problemas se pueden solucionar con procesos mecánicos e informáticos o IA´s. Contrario, los problemas difíciles, no pueden ser abordados por una IA, dado que estos problemas se refieren a aquella condiciones humanas como experiencias fenoménicas que se refieren a sensaciones internas (Abbott, 2020, p. 26). En tal supuesto, las IA no pueden asumir esta exposición vital. Abbott (2020) expresa que, en tal sentido, las IA’s “AI does not think the way a person does”, no son autoconscientes (Abbott, 2020, p. 27). Las IA´s “AI does not need to mimic human thought processes or perceive the meaning of its actions; “It simply need to automate human intellectual activity. Al does not need to think-just do” (Abbott, 2020, p. 27). Estas afirmaciones tienen una explicación: las IA´s según señala Abbott (2020) funcionan con la creación de algoritmos como “An algorithm is a set of mathematical instructions of rules, which in the form of a sofware program can instruct computer hardware, the physical components of a machine, to perform specific task” (Abbott, 2020, p. 27).

Esta situación ha avanzado en los últimos años, hasta crear los denominados sistemas conexionistas generan un tipo de “Connectionist systems generate intelligent behavior by rueles in interconnected networks of simple and even uniform units such as artifical nurons” (Abbott, 2020, p. 29). Se trata de redes interconectadas basadas en información y aprendizaje automático (basados en la arquitectura del cerebro humano) profundo (Abbott, 2020, p. 29-30).

La automatización implica que las IA´s, como maquinas pueden generar sus propias reglas para lograr conocimiento y para ello, deben contar con grandes bases de datos (Abbott, 2020). Al parecer las conexiones de las neuronas artificiales cambian de forma frecuente dependiendo del aprendizaje. Sin embargo, es claro que las IA’s se nutren de algoritmos que encapsulan gran cantidad de datos y capas neuronales que estas inteligencias reconocen y en consecuencia actúan frente a ellos. No obstante, su tarea se reduce a gestionar una cantidad de datos complejísimos, pero no alcanzan a pensar. Contrario a esta limitante actuación de las IA´s la hermenéutica especialmente la planteada por Gadamer sitúa al ser humano bajo el manto del lenguaje, de la comprensión del mundo desde la propia vivencia y existencia misma del ser humano en cuanto ser capaz de vivir con otros, de pensar junto a otros desde los espacios más recónditos de su interior más sublime.

Existen diferentes clases de IA’s, con diversas funciones útiles para la práctica del Derecho. La primordial diferencia se produce entre las IA’s estrechas y las fuertes. Las IA’s estrechas (narrow) o de profundidad o capacidad limitadas, generalmente son diseñadas para una tarea específica, como conducir vehículos o para reconocimiento facial. Estas IA son frágiles puesto que no se pueden adaptar fácilmente a una tarea nueva o diferente, aunque normalmente son muy eficientes en la labor para la cual fueron diseñadas (Baker; Hobart; Mittelsteadt, 2023, p. 9). Por su parte, están las IA’s fuertes (strong), entre las cuales está la proyectada AGI (Artificial General Intelligence), tendrían la capacidad de desarrollar tareas diversas y la capacidad de cambiar de tarea en tarea (Baker; Hobart; Mittelsteadt, 2023, p. 12). Dicho esto, es inútil explicar que las IA’s limitadas o estrechas son actualmente útiles para la práctica del Derecho, por ejemplo, el reconocimiento facial es determinante en las terminales aéreas, asimismo, son cruciales para el análisis de evidencia en delitos digitales, que requieren el rastreo de gran cantidad de información (Henseler; Van Beek, 2023, p. 2). Lo mismo sucede con los centros de atención al cliente o en la elaboración de resúmenes de grandes cantidades de información jurídica (Henseler; Van Beek, 2023, p. 2). Se destaca su capacidad para elaborar borradores susceptibles de utilizarse en el mundo jurídico, y la identificación y clasificación de cláusulas contractuales, que puede ser muy útil para organismos de vigilancia y control estatal (Savelka, 2023, p. 1).

Para tareas más complejas, como el hecho de juzgar, surgen varias dudas: 1. La capacidad de las AI’s para generar un pensamiento complejo como, por ejemplo, juzgar. 2. La susceptibilidad de la tarea (el acto de juzgar) para ser desarrollado por una máquina. 3. El respeto al debido proceso. En este último caso, la cuestión emerge cuando se piensa que en las LLM’s (large language models) especialmente, existe una parte del proceso que está oculta en la caja negra del sistema, a la cual no pueden acceder ni los mismos diseñadores de la IA, porque el proceso probabilista se desarrolla de manera autónoma y sin trazabilidad. De esta manera, no se puede rastrear si la IA utilizó información basada en prejuicios raciales o de género (Baker; Hobart; Mittelsteadt, 2023, p. 22) , o cometió faltas que el Derecho considera nulidades procesales.

Con bastantes dudas, el Federal Judicial Center señala que las IA’s podrían apoyar en la tarea de evaluar pruebas, siendo los jueces unos vigilantes del proceso para que no se violen derechos o garantías fundamentales (Judges as AI Gatekeepers) (Baker; Hobart; Mittelsteadt, 2023, p. 48). No obstante, no es claro cómo puede una IA interpretar el Derecho aplicable a un caso concreto que se haya establecido probatoriamente de manera artificial por una máquina. Por su parte, los sistemas expertos, de consulta de normatividad y jurisprudencia, realmente serían IA estrechas, que solamente son capaces de relacionar textos. Sin embargo, estas máquinas no son capaces de asumir partes del Derecho que no están escritas, y aún en lo solamente escrito, es dudoso que tengan la capacidad de juzgar, como pretende haga una IA strong.

Dentro de los diferentes tipos de IA’s, para el Derecho, destacan los LLM’s (large language models), modelos de lenguaje de gran tamaño que, por ser modelos eficientes en el análisis de grandes cantidades de texto y se suele pensar que son los más propicios para el ámbito jurídico. Estas IA´s se destacan en el ámbito de la redacción de contratos, y operan como sistemas generativos de texto (como los “ChatGPT”), en donde el modelo predice la próxima palabra basado en el análisis previo de textos, anunciando de manera probabilista la siguiente palabra de tal manera que el texto resulte coherente y gramaticalmente correcto. En este caso, con el propósito de entrenar el sistema, se necesitan grandes cantidades de información (Lam; Cheng; Yeong, 2023, p. 3).

En este último ámbito los desarrolladores de IA’s han reencontrado la relevancia capital de un asunto que hasta hace poco era patrimonio exclusivo de las humanidades: el lenguaje común, pues es con este lenguaje creado por el ser humano con lo que pretende lidiar un LLM. De esta manera, los LLM’s, vistos de manera apresurada, serían una forma muy adecuada de abordar los problemas del Derecho sino fuera porque la aplicación del Derecho, previa su interpretación, va mucho más allá de los problemas del lenguaje y su propia coherencia (ni siquiera logra ser un sistema coherente). Existe aquí una relación dramática entre los métodos lógico-deductivos y los ontológico hermenéuticos especialmente, si se busca al interior de la teoría y filosofía del Derecho.

Si se asume como base principal de análisis el concepto de norma jurídica descrito por Kelsen, se puede señalar, que el objeto de estudio del Derecho es la norma jurídica y la conducta humana, esta última solo en cuanto es trazada por el Derecho (Kelsen, 1982, p. 83). Por su parte, los enunciados jurídicos con los cuales se construyen las normas son enunciados condicionales que señalan que, si se da una condición (o supuesto de hecho), deben producirse ciertas consecuencias (Si es A debe ser B) (Kelsen, 1982, p. 84).

Esta visión simplista de la norma jurídica (como el conjunto de un supuesto de hecho y una consecuencia jurídica, redactado en un enunciado concreto), desdice de su verdadera complejidad. El mismo Kelsen señala que, en realidad, lo que sucede en una sentencia es que el juez construye, con base en los varios enunciados que se encuentran en un determinado sistema jurídico, una norma jurídica que gobierna el caso particular, y que muy rara vez será idéntico a un caso previo; todo caso posee peculiaridades que lo hacen único, y lo que se hace en el Derecho es aplicar de manera analógica una norma a casos similares (Kelsen, 1982, p. 85), analogía que actualmente resulta muy compleja para una IA.

Esto se puede notar de manera más álgida cuando en el Derecho se empezó a distinguir entre principios y reglas, gracias a Dworkin (1989). En este caso, cuando se aplican principios, en realidad no existe un enunciado concreto (acto estatal) para que pueda ser usado como premisa y al cual pueda recurrir una IA´s. Por el contrario, su concepto está establecido de manera vaga en diferentes textos de carácter abierto y abstracto, e incluso en el mismo consenso social. En este caso el juez es el intérprete que con ese material dado construye la norma jurídica que gobernará el caso concreto. Así, los principios funcionan como un criterio inspirador para la solución de un caso concreto, y rehúyen a una formulación concreta, lo que dificulta gravemente su asimilación por un LLM. Además, hoy es difícil dudar de la eficacia práctica que tienen los principios en la labor judicial dada su cercanía hermenéutica en la construcción de múltiples horizontes de sentido.

Atienza destaca que la decisión judicial ya no es (si es que algún día lo fue), una mera operación de silogismo deductivo, con un único resultado posible (objetivo). Se trata de una decisión, porque hay varios resultados posibles (Atienza, 2005) que surgen de dos razones fundamentales: la aplicación del Derecho debe ser constructiva (Corte Constitucional, Sentencia C-836 de 2001, Col.) y, además, no hay un único resultado posible deducido lógicamente, sino varios posibles argumentativamente, entre los cuales el juez debe decidir. En cierto sentido, porque existen muchos aspectos jurídicos que no están escritos o legislados, o porque si lo están, justamente, aquella porción del lenguaje (los enunciados normativos) se usan para construir normas para el caso concreto, lejos de aplicar una simple subsunción (Atienza, 2005, p. 43).

Otro aspecto que deviene complejo para la interpretación del Derecho a través de un LLM, es el carácter ontológico del supuesto de hecho de una norma. Desde Kant, como resalta Heidegger, se distingue entre noúmeno y fenómeno. El noúmeno o las cosas mismas son las sensaciones que se intentan comprender como tales, sin la ayuda de las intuiciones que aporta la razón, como el espacio y el tiempo; estos noúmenos no son posibles porque para la mente no es posible acceder a las cosas mismas sino a representaciones según las propias posibilidades racionales de la misma mente (Kant, 2005)⁴. Por su parte, los fenómenos son también datos sensibles (Kant no renuncia al empirismo, influido por Hume), tamizados por las facultades racionales de la mente (Kant, 2011, p. 179-180). Sin embargo, hasta este punto, aún no se ha descubierto un hecho, porque los hechos como fenómenos se deben convertir en lenguaje, algo respecto de lo cual la ciencia de la computación, con el desarrollo de las IA´s, ha adquirido plena consciencia, aunque con uso de la parcialidad del método lógico-deductivo. Ya la computación, de antaño, tenía noción de que no es posible su desarrollo sin traducir los datos del mundo al código binario de ceros y unos, y actualmente con las IA´s, se tiene consciencia de la importancia de comprender el lenguaje común para poder actuar en el mundo humano. El problema, no obstante, es que dicha ciencia se rehúsa a involucrarse con los verdaderos problemas del lenguaje, humanistas, filosóficos, y se queda en único plano, analizando problemas semánticos y sintácticos, a través de las probabilidades; esa, sin duda, aunque corregible (con mucho esfuerzo), es su principal limitación. Como resalta Heidegger, el pensar es el hacer patente en el lenguaje el fenómeno del que se habla (Heidegger, 2018, p. 52), lo que va mucho más allá de los problemas gramaticales, debe ir hacia la valoración ontológico-hermenéutica de la acción humana.

Ya Ricoeur recorrió este camino, combinando magistralmente la filosofía analítica de la que parten los desarrolladores de los LLM’s, con la fenomenología y, posteriormente, la hermenéutica. La filosofía del lenguaje ordinario tiene como base especialmente el planteamiento de Austin (1998) que influyó en el análisis del concepto de causalidad en el Derecho, por ejemplo, en Hart y Honore (2002). Tal filosofía, tiene a su vez, base en la filosofía analítica, según la cual, se sabe cuándo alguien está actuando cuando esa actuación cabe en una descripción de lo que comúnmente se describe cómo actuar (Ricoeur, 1988, p. 11). Así, para Ricoeur esta idea resulta muy valiosa porque acude a una faceta pública del concepto acción, con lo cual se gana en objetividad social, aunque no empírica (Ricoeur, 1988, p. 12). De esta manera, la acción no es una colección de datos empíricos, sino una reflexión sobre el discurso que describe las acciones, en un contexto lingüístico y cultural dado (Ricoeur, 1988, p. 30). En otras palabras, de la mano de Jakobs se puede decir que no hay interpretaciones obvias de lo que significa delinquir (Jakobs, 2012, p. 27).

En consonancia con la reflexión que propone Ricoeur, lo que significa objetivo es que los significados son aceptados socialmente en un contexto cultural dado, por lo que no se pretende una objetividad empírica. Lo que significa matar puede diferir de sociedad a otra, y no existen maneras obvias o empíricas de entenderlo: por ejemplo, abandonar a un menor que posteriormente muere puede ser calificado de asesinato, pero no es obvio desde qué edad ese abandono puede significar “asesinar”. Abandonar a un menor de seis meses la mayoría del tiempo y en muchas sociedades se considera asesinato, pero entre más avanza en edad, se vuelve más oscuro cuándo se comete una acción que pueda ser considerada de esa forma; no es claro si después de los tres años, los cinco años o los siete años, ya no se considerará asesinato el abandono, y eso depende de cada sociedad y su propensión hacia el paternalismo o la libertad. En este punto, las LLM´s tendrían muchas dificultades para la construcción conceptual.

Ricoeur nota que esta cuestión no puede quedarse meramente en el análisis del lenguaje como uso y como estructura gramatical, porque tal aproximación dejaría por fuera el mundo de la vida humana, y ese mundo a su vez, es el objeto de estudio del Derecho. Así, interpretando a Ricoeur, Rubio Angulo (2005) se pregunta por qué acudir a la fenomenología para entender la acción humana, y señala que, “gracias a la fenomenología nos aparece el querer, y la existencia humana en general, como lo que da sentido” (Rubio Angulo, 2005, p. 108). La subjetividad que persigue el Derecho para hacer justa una imputación (como señala Jakobs, sin ello se respondería por el mero destino⁵), es una subjetividad perteneciente al mundo-de-la-vida (Rubio Angulo, 2005, p. 59) , no es un mero dato empírico. Por esta razón, Ricoeur (1998) sugiere que no basta con analizar al lenguaje como un sistema cerrado en él mismo, donde meramente se analice la coherencia y corrección gramatical de las palabras, porque se pierde lo que de vivo tiene el lenguaje, sino que se debe ir de los meros enunciados a la experiencia viva y social (Ricoeur, 1988, p. 135), y de la experiencia de lo vivo en lo social está excluida una IA, porque ésta no está viva, ni puede vivir o experimentar como un ser humano a la sociedad humana.

Ricoeur también nota que llevado hasta este punto el análisis de la acción humana, sigue siendo insuficiente, pues a este análisis le hace falta el giro hermenéutico, propio de las tendencias postmodernas: “Mi tesis es que la acción misma, la acción significativa, se puede convertir en objeto de ciencia sin perder su carácter de significatividad, gracias a un tipo de objetivación similar a la fijación que se produce en la escritura” (Ricoeur, 2008, p. 63). Analizando especialmente la ciencia historiográfica, Ricoeur nota que para objetivar la acción es indispensable narrarla; de la historia no se obtienen hechos empíricos que se asuman directamente, por el contrario, el historiador debe elaborar relatos coherentes con su contexto cultural y propios del tiempo en el que el historiador narra, para que su relato sea comprensible. El historiador se vale de su propia cultura, de sus propios prejuicios y sesgos, ¡de su subjetividad!, para narrar; no existe otra manera, la asepsia cultural del narrador o el científico solo existe en la ciencia ficción. Como en la paleontología, por ejemplo, se puede imaginar cómo fueron los dinosaurios porque se tiene la imagen de animales propios de este tiempo, similares, y con ello se construye analógicamente una reconstrucción del tiempo pasado (Dellepiane, 2009). De esta manera, el historiador o el juez no toman meramente hechos, sino que se valen de su experiencia sobre el actuar humano, experiencia cultural adquirida mediante el vivir, a partir de la cual, reconstruyen una acción para un proceso. Este proceso, otra vez, luce como algo que está fuera del alcance de un LLM, que precisamente como pináculo de la modernidad y la objetividad, no tiene experiencia ni prejuicios, no tiene subjetividad, es decir, no tiene una vida.

Esta cuestión, ciertamente, es notada por las ciencias de la computación dedicada a las IA’s. Por ejemplo, dentro de las acciones humanas la intuición es una función especial del cerebro humano, por lo que es indispensable para esta disciplina, establecer un sistema racional que se valga o tenga características intuitivas (Liu; He, 2019, p. 1). La percepción y la memoria son características esenciales de la intuición, que pueden ser asociativas e ilógicas (Liu; He, 2019, p. 2); esta circunstancia es un reto para los modelos matemáticos y probabilistas de las IA’s. De esta manera, en el estudio citado se reconoce que la intuición de un objeto o un evento se basa en la confiabilidad percibida de la memoria (por la vida y la experiencia social, se diría en este trabajo), que combina diferentes creencias obtenidas por la percepción, para formar una decisión que en esencia más que determinada por un modelo, es intuitiva (Liu; He, 2019, p. 3-4). Pero, si este tipo de aproximaciones no se desarrollan, como denuncian las voces más críticas en contra de las IA’s, estas podrían incluso actuar en labores simples, como seleccionar fruta, reconocer personas o jurisprudencia relevante, pero no desarrollarán la inteligencia suficiente para asumir labores complejas, como juzgar (Floridi, 2023).

Como expresó Austin (1998) hay cosas que se hacen exclusivamente con palabras. El lenguaje performativo es capaz de generar cambios, especialmente a nivel social, que no tienen ninguna o escasa implicación de orden empírico: por ejemplo, un contrato o el matrimonio no son eventos de la naturaleza que existan por ellos mismos. Si no hay un ordenamiento jurídico que apoye y reconozca la relevancia, que solo puede ser jurídica, de tales actos, estos no existirían, por más que se pronuncien palabras para efectuarlos. De esta forma, su ontología resulta compleja porque están compuestos del reconocimiento previo de un sistema jurídico, y por el pronunciamiento de meras palabras, que solo metafóricamente tienen efectos empíricos. Por lo tanto, una aproximación al mundo jurídico meramente empírica, como constantemente se pretende en los desarrollos de las IA’s para que estas puedan “observar” o “palpar” algo, sin una aproximación interpretativa, conceptual o social de tales eventos, hace que se queden al margen de las posibles percepciones de una IA un amplio rango de eventos que el Derecho toma en cuenta, porque tienen relevancia y efectos jurídicos a pesar de su nulo corpus.

La estructura de la norma jurídica representa un problema para las IA’s, que es factible que sea solucionado por la misma tecnología, pero que actualmente se presenta como una limitante, especialmente incapacitante para el ámbito jurídico. Para las IA’s la solución de problemas que requieren más de un paso ha resultado aparatosa, especialmente las LLM’s actualmente son razonadores de muy pocos intentos (Kojima et al., 2023) por lo que estos sistemas han demostrado tener problemas con tareas que requieren un razonamiento lento y de varios pasos. Para solucionar este problema se han propuesto metodologías “paso a paso”, en donde en lugar de solicitar resultados al sistema bajo el esquema de preguntas y respuestas, se provoca en el sistema que emita cadenas de pensamiento y así descomponer tareas complejas en pasos sucesivos (Kojima et al., 2023, p. 2).

Sin embargo, este es un problema técnico que es probable que encuentre solución eventualmente, pero que para el Derecho es crucial. Como ya se explicó, debido a la estructura de la norma jurídica, compuesta del supuesto de hecho y la consecuencia jurídica, es indispensable que el sistema informático sea capaz de elaborar cadenas racionales de pensamiento, que de hecho no son sucesivas, sino que se retroalimentan. Así, los hechos que interesan al Derecho no existen por sí mismos en la naturaleza, sino que es el mismo Derecho el que sugiere las interpretaciones del mundo, y a ello se le llama relevancia jurídica o tipicidad. Por lo tanto, el Derecho, de manera previa, señala qué de la realidad fáctica, y de qué manera, interesa al mismo Derecho.

Como señala Prades, existe una suerte de fragilidad ontológica en los eventos interesantes al Derecho y a la ciencia, que los hace depender del interés del investigador (Prades, 2014, p. 30). Así, el interés por saber de qué manera una puñalada puede acortar la vida, difiere según el campo de investigación o el contexto. Para la medicina, los detalles de cómo el corazón, el sistema respiratorio y circulatorio son afectados por una puñalada son cruciales, porque de lo que se trata es de averiguar cómo se reparan corazones maltrechos. No obstante, para el Derecho en un contexto judicial, basta con saber que una buena puñalada es capaz de hacer que los corazones dejen de funcionar y no porque una averiguación sea más esmerada o mejor que otra, sino que tienen propósitos diferentes que, si no se atienden, pueden distraer de lo realmente importante para cada ámbito de conocimiento (Prades, 2014, p. 36).

Por lo tanto, existen dos pasos sumamente complicados que recorre el Derecho, que se alejan de observaciones meramente empíricas, y que se retroalimentan de manera compleja, situación que representa un reto para razonadores de un solo paso, como los LLM’s. En la realidad se presenta un evento, pero ese evento no interesa en sí, en su realidad naturalista, sino solo de la manera cómo el Derecho lo concibe desde su propia ontología. Y para saber cómo el Derecho lo toma en cuenta, se debe construir una norma jurídica que considere no solamente en textos legales o escritos, sino los principios o criterios morales, que no están escritos en ninguna parte, y por eso, están fuera del alcance de un LLM, que se concentra solamente en aquello que está escrito (datos). Por lo tanto, la observación de hechos jurídicos dista mucho de la simplicidad que representa distinguir entre manzanas verdes y rojas, o el poder distinguir rostros en un aeropuerto, tareas que actualmente realizan las IA’s con buen suceso.

Como resalta Hart (1998), hay una pregunta que la teoría jurídica se ha planteado por siglos, que actualmente no ha logrado responder, o que solo ha respondido de formas extravagantes o contradictorias, esto es, la pregunta por qué es el Derecho. Por lo tanto, lo que realmente asombra de los actuales desarrollos de las IA’s, es que a pesar de que no se sabe bien qué es lo que buscan, porque la misma teoría jurídica no lo tiene claro, se aventuran a buscar algo que ni siquiera comprenden bien ni ellos ni los abogados.

Es posible afirmar que el Derecho tiene cuatro formas básicas, o cuatro modelos explicativos sobre la esencia de su ser. El periodo más largo que explicó una de las formas para comprender el Derecho fue el periodo iusnaturalista que se caracterizó por la creencia en un sistema superior trascendente de moralidad, que debe determinar qué es el Derecho en el mundo terrenal. Este periodo tuvo dos etapas, la primera, de orden teológico, donde la conciencia moral se supuso dictada por las divinidades, y un periodo racionalista, en donde se supuso que la moral provenía de la misma razón (Kant, 2011).

Enseguida, vino el periodo iuspositivista, liderado por Kelsen y Hart. En especial, Kelsen estaba interesado en alcanzar un estatus científico para el Derecho, estándar que para ese momento era impuesto por el positivismo científico. El positivismo científico establecía que una disciplina no puede ser ciencia sino tiene un método, el experimental, si no tiene un objeto de estudio empírico, y si sus hallazgos no pueden ser expresados en lenguaje matemático. Para superar estas exigencias Kelsen, en el primer capítulo de la Teoría Pura del Derecho (Kelsen, 1982, 1989), expuso que el Derecho sí tiene un método, si a su vez, se comprende el problema del ser y del deber que ya había sido propuesto por Hume. El método propio de las ciencias del ser es el causalista, y el método propio de las ciencias del deber ser es el imputativo. Por su parte, en el segundo capítulo de La Teoría Pura, Kelsen intentó enfrentar el segundo reto al señalar que el Derecho sí tiene un objeto empírico de conocimiento, si se excluye de su cuerpo a la moral. Si el Derecho se considera exclusivamente como los actos empíricos de un legislador histórico, el Derecho adquiere un componente empírico mínimo y, por tanto, un objeto de estudio (Kelsen, 1982). En cuanto a la reducción matemática impuesta por la ciencia moderna, Kelsen, siguiendo la tendencia de la época establecida por Frege y Russell que incluyeron la matemática dentro de la lógica, señaló que el Derecho si bien no puede ser matematizable, sí trabaja dentro de estándares lógicos. De esta manera, la pureza de su teoría descansa en que excluyó a la realidad del Derecho, en primera medida, y excluyó a la moralidad del Derecho, como segundo paso.

No obstante, de manera inmediata la teoría kelseniana sufrió un embate incontenible. La Segunda Guerra Mundial demostró que, si el Derecho es meramente lo que está escrito en normas establecidas por un legislador, el Derecho nazi sería legítimo y no se podría juzgar a los criminales de guerra (Bodenheimer, 1994). De esta manera, fue más que evidente que no se puede prescindir de ideas morales en el Derecho, por lo que surgió la tercera forma de Derecho, el positivismo incluyente (la tercera teoría explicativa del Derecho), porque permite convivir a la moral con el Derecho escrito y estatal (Sucar, 2008). Por su parte, una cuarta teoría jurídica enfrentó la pureza kelseniana, señalando que no es posible expulsar del Derecho la realidad, planteamiento que se conoció como iusrealismo. Ross le reprochó a Kelsen que el Derecho debe tener algún impacto concreto en la realidad para poder ser llamado Derecho, porque no puede ser posible que se estudie como Derecho un sistema de normas escritas que no tenga ningún efecto práctico. Ante esta contundente crítica, el mismo Kelsen se declaró iusrealista, pues admitió la veracidad incontestable de tal afirmación, en un formidable intercambio académico entre ambos autores (Kelsen, 1991). Herederos intelectuales del iusrealismo, explica Moore, son los critical legal studies, que reprochan que se deje de lado realidades sociales que afectan el Derecho, como la discriminación basada en la raza o el sexo, o el análisis económico del Derecho, que censura que se soslaye la realidad económica para comprender la realidad jurídica (Moore, 2011, p. 149-150).

Lo que sorprende de los desarrollos de las IA respecto de la ontología jurídica, especialmente de las LLM’s, es que tienen escasa comprensión de estos problemas ontológicos y realmente, especialmente las LLM’s, serían mecanismos muy propicios si el Derecho fuese solamente el Derecho legislado al modo del iuspositivismo kelseniano, o a lo sumo, el Derecho legislado y la jurisprudencia según el positivismo hartiano, que se asientan en lenguaje escrito, y en tal caso, sí podrían ser mecanismos muy eficientes. No obstante, es evidente que el Derecho actualmente es mucho más que eso. Por un lado, tal como se vio, el Derecho hoy acepta la influencia de ideas morales y principios, que no tienen un basamento escrito. Se acepta, además, que el Derecho tiene influencias de aspectos de la realidad social que tampoco están establecidos de manera escrita, sino que devienen históricamente. Respecto de estos aspectos que no tienen fundamentación escrita explícita, los LLM’s serían ciegos, con lo cual se deja por fuera una gran parte del Derecho actual de una manera inaceptable. La tarea de las IA´s quedaría restringida al uso de un método lógico deductivo, apartando el hermenéutico expresión máxima de la comprensión de la vida misma y de sus expresiones interpretativas dialogantes e históricas.

Resulta incomprensible el escaso interés que suscita entre los investigadores de las IA este asunto, por lo que destaca la aproximación ontológica de Breuker, Valente y Winkels (2004), que lamentablemente está en desuso en el estado del arte de las ciencias de la computación dedicadas a las IA (Sartor et al., 2022). En tal aproximación ontológica se desarrolla un recuento de las teorías explicativas sobre el Derecho, en el que se revisa de manera bastante aceptable tales teorías, aunque como es natural, se termina concentrando el enfoque en el criterio de validez del Derecho (el iuspositivismo), dejando de lado los criterios de justicia (iusnaturalismo y positivismo incluyente) o de eficacia (iusrealismo), porque sería un golpe mortal para las IA’s actuales aceptar que el Derecho es mucho más que el Derecho legislado o jurisprudencial basado en textos. En otras palabras, el artículo se formula la pregunta correcta (What is law about?) (Breuker; Valente; Winkels, 2004, p. 246), pero no acepta la fatídica respuesta. Se debe destacar una aproximación de corte iusrealista, que intenta modelar no cómo debe decidir un juez, sino cómo decide efectivamente, para con ello avocarse a la tarea de predecir las sentencias, tan propia del iusrealismo (Hamilton, 2023).

En otras palabras, para hacerlo completamente explícito, la ontología del Derecho actual señala dos vertientes: la primera, un positivismo con apertura a la moralidad, y la segunda, un positivismo con apertura a la realidad. En ambos casos, aunque no se niega que el Derecho conserve fuentes formales y escritas claras, el Derecho es mucho más que esas fuentes, y posee componentes que no están escritos, razón por la cual hay grandes porciones del Derecho que, por ahora, están fuera del alcance de las IA’s. Es decir, las IA’s están asumiendo, por conveniencia, una versión del Derecho rezagada de su estado actual del arte, lo que las condena al fracaso en el ámbito jurídico.

Por estas razones algunos estatutos escritos con los cuales necesariamente se encontrará un LLM, por ejemplo, en el Derecho colombiano, lo remitirán a fuentes no escritas que escapan al rango de alcance de dicha IA. La Constitución Política de Colombia⁶ y el Código General del Proceso colombiano⁷ señalan fuentes como la equidad, los principios generales de derecho o la costumbre. Tales fuentes tienen un talante social, móvil, humanista, difuso, cuya aprehensión se hace casi imposible para una IA (por lo menos las basadas en lenguaje escrito como los LLM’s, por muy grandes que lleguen a ser). Nótese esta elocuente investigación empírica: La IA denominada GPT-4, un LLM de los más avanzados a día de hoy, logró pasar el examen de la barra para abogados que se realiza en los Estados Unidos (Katz et al., 2024). Sin embargo, un dato empírico de tal investigación destaca notablemente; señalan los autores que, respecto de preguntas relativas a contratos, el LLM GPT-4 puede identificar la respuesta correcta, cuando ha seleccionado dos opciones principales, en el noventa y siete por ciento de los casos. No obstante, por el contrario, en el Derecho de daños, en aproximadamente el quince por ciento de los casos GPT-4 no pudo eliminar ni una sola respuesta incorrecta (Katz et al., 2024, p. 8).

De esta manera, la pregunta capital (pensando también en las mejoras del modelo), es: ¿por qué sucede esto? ¿Por qué le cuesta más al GPT-4 lidiar con el Derecho de daños que con los contratos? Por todo lo dicho, la respuesta ya puede intuirse: en el caso del Derecho de los contratos se está luchando, básicamente, con Derecho escrito; la regulación de los contratos se basa en las codificaciones estatales, las decisiones jurisprudenciales y los ejemplos previos de contratos escritos. No obstante, por el contrario, en el Derecho de daños, en la mayor parte de los casos, no se tiene acceso a fuentes escritas. Como explica Tamayo Jaramillo, la negligencia a veces puede evaluarse a través de reglamentos escritos, como los códigos de tránsito, donde es claro que ir a más de cierta velocidad constituye una culpa (Tamayo Jaramillo, 2010, p. 225), sin embargo, tales códigos no son la regla sino la excepción. La mayoría del mundo de la vida, por su bastedad, está afuera de los códigos, por lo tanto, la evaluación de si una conducta fue imperita, temeraria o negligente, se basa en interpretaciones sociales que no reposan en ninguna fuente escrita.

Sobre este aspecto, no se puede acudir al artículo sexto de la Constitución Política de Colombia⁸ para afirmar que para los particulares todo lo que no esté expresamente prohibido está permitido, y que, por lo tanto, todo está regulado por escrito, porque en el Derecho de daños tal aseveración es absolutamente contraevidente. Son innumerables los casos en donde no hay una expresa prohibición, y sin embargo el Derecho las considera como conductas culposas. Piénsese en el concepto de buen padre de familia o de ser humano razonable (muy propio del derecho anglosajón) puesto en las mismas circunstancias que el demandado. Para el Derecho de daños es indispensable construir un modelo ideal de persona para poder averiguar lo que haría y no haría por ser un modelo de prudencia, porque en el Derecho es imposible regular absolutamente todos los eventos de la vida humana, ex ante.

Por su parte, el mismo sistema de fuentes del Derecho no es claro ni estable en su jerarquía. La principal fuente de Derecho, según el artículo 230 de la Constitución Política de Colombia, es ley, pero el mismo sistema jurídico colombiano se ha resentido en sus cimientos por la irrupción de la jurisprudencia y las teorías como fuentes de Derecho. El artículo séptimo del Código General del Proceso⁹ señala que la jurisprudencia es obligatoria para los jueces, quienes, con muchas dificultades, han aceptado este cambio en la estructura jerárquica de las fuentes. Por su parte, la Corte Constitucional en sus sentencias parece dar preminencia a los principios generales de Derecho y a criterios morales, en general¹⁰, lo que, a pesar de haberse reconocido por escrito en una sentencia, por su inherente textura abierta y carácter abstracto, nunca estarán totalmente delimitados por escrito, sino que reaccionan siempre de manera particular, a cada caso. Por lo tanto, el sistema de fuentes impone a una IA considerar el problema de su jerarquía interpretativa, la cual, como se dijo, nunca es clara o estable (Ortiz Bolaños; Paz, 2022). Todos estos problemas, sin embargo, no son considerados por los desarrolladores de las IA’s.

De esta manera, estas circunstancias desembocan en un mismo problema, que aqueja tanto al Derecho como a las IA: el problema interpretativo o hermenéutico. Sobre este aspecto, la coincidencia entre la teoría general de las IA’s y la teoría general hermenéutica es asombrosa e impensada, como increíble también resulta que desde la teoría computacional se rehúsen a acudir a las humanidades, de manera seria, profunda y ancha, para afrontar sus propios problemas. El resultado de esta investigación es una propuesta para pensar en la posibilidad de limitar el papel de las IA´s en la interpretación jurídica y establecer cuáles deben ser sus tareas acorde con la estructura ontológica de las mismas.

Para Gadamer, el problema de la teoría hermenéutica en general es que no ha comprendido aquello que la filosofía del Derecho desde siempre, han entendido; la hermenéutica no es meramente un acto interpretativo para hallar los sentidos ocultos de un texto, por el contrario, esos horizontes de sentido tienen una finalidad: ser aplicados (Gadamer, 1999, p. 397). Este es el atributo fundamental de la filosofía hermenéutica gadameriana. Por esa razón, Gadamer acude al planteamiento de Emilio Betti, para incluir ese aspecto de la hermenéutica olvidado por su misma teoría de base; explica Gadamer que los juristas, a diferencia de los historiadores, trabajan con casos concretos e interpretan con el objeto de aplicar a dicho caso las fuentes de Derecho (Gadamer, 1999, p. 397). De esta manera, la denuncia que hace Gadamer usando para ello la intención de la hermenéutica jurídica, es que la hermenéutica general ha olvidado que se interpreta para actualizar el sentido de los eventos o los textos, para hacerlos actuantes en el presente, sea para vivir un libro de literatura clásica en la realidad propia y actual del lector, o sea para aplicar textos legales antiguos a un caso presente.

Es tan asombroso que exactamente en el mismo sentido, se define el concepto de IA, como es igual de asombroso que los desarrolladores de las IA se rehúsen a acudir a las humanidades, lo cual se puede explicar por el fuerte prejuicio que ha creado la modernidad sobre estas disciplinas, que no pueden aspirar al rótulo de ciencia por no aparecer como lenguaje matemático, ni tener un objeto empírico de investigación, ni un método acorde con un objeto de tal entidad. Para Chowdhary (2020) la inteligencia artificial es una rama de las ciencias de la computación que tiene como propósito lograr el comportamiento inteligente de las máquinas, y automatizarlo. De esta manera, una inteligencia en general, incluidas las artificiales, deben lograr en primera medida percibir, en seguida analizar o interpretar lo percibido, para luego actuar o reaccionar a tales estímulos ya interpretados. La inteligencia para Chowdhary, incluida la artificial, debe tener la capacidad de aprender y beneficiarse de la experiencia, de las sensaciones, debe tener la capacidad de adaptarse a nuevas situaciones de manera analógica, pues hasta un niño aprende a no quemarse con una olla azul de agua hirviente calentada en una estufa eléctrica, si previamente se quemó con una sartén roja calentada en una hoguera de leña. En otras palabras, la característica más importante de la inteligencia es la capacidad de adaptarse a un entorno y de actuar ante nuevas situaciones o nuevos casos (Chowdhary, 2020, p. 2). En todo caso, la adaptación debe hacerse de forma analógica y hermenéutica.

En aquello que abiertamente se diferencia la hermenéutica gadameriana de la teoría y diseño de IA’s, es en la exclusión que esta última hace del “ser” que piensa y en contraposición con las propuestas críticas de la modernidad, como la de Gadamer. En las IA ha sido constante la preocupación por los sesgos o prejuicios que puede contener un LLM; prejuicios que, para una ciencia moderna, son vistos como un grave defecto porque desdicen de la pretensión de objetividad absoluta que prometen estas máquinas (no individuos). Así, para Bender et al. (2021) los LLM’s no pasan de ser un loro estocástico, una máquina repetidora de los mismos sesgos, prejuicios y toda suerte de impurezas subjetivas indeseables en la ciencia objetiva, en razón a que los LLM’s se alimentan de textos producidos humanamente, con sus connaturales sesgos y prejuicios, por lo que incluso estas IA’s llegan a magnificar esos prejuicios o a naturalizarlos bajo el manto de la ciencia objetiva que representan. Ante este peligro comprobado de que las LLM’s aprendan, perpetúen y amplifiquen prejuicios y sesgos, aparecen estudios que intentan establecer maneras de detectarlos (pues tal como sucede en el mundo humano, se camuflan en lenguaje objetivo) (Matthews; Hudzina; Sepehr, 2022). Es posible igualmente, prevenirlos a través de técnicas de mitigación (Gallegos et al., 2024).

Por el contrario, en el caso de la hermenéutica gadameriana, la aproximación hacia los sesgos y prejuicios es otra. Gadamer reconoce que toda decisión moral, si bien, no en su totalidad, sí parcialmente, requiere en algún grado de un sentido del gusto que va más allá de una mera averiguación objetiva (Gadamer, 1999, p. 71). Esto, por supuesto, representa un límite severo para una IA, que no puede tener sentido del gusto porque no está viva, en un sentido humano, ni vive una vida y una cultura que le permita tener ese tipo de sentimientos.

Al recordar a Aristóteles, Gadamer sostiene que en los asuntos morales no es posible arribar a una exactitud matemática (así sea probabilista, como en el caso de los LLM’s), de lo que se trata es de crear un perfil de la realidad para ayudar a la consciencia moral humana con ese esbozo, a tomar una decisión. Sin embargo, como si visionariamente Gadamer hubiese conocido los desarrollos actuales de las IA’s, sugiere plantear la duda, sobre si ¿podría ser legitimo moralmente recibir algún tipo de coadyuvancias para interpretar, para actuar y decidir por uno mismo? (Gadamer, 1999, p. 384). Aunque pueda pensarse que una decisión robótica (eventualmente, cuando superen las limitaciones descritas) pueda tener ventajas, como la eficiencia o la seguridad jurídica (Battelli, 2020), utilizarlas es éticamente es renunciar al deber moral del juez de pensar por sí mismo.

Lo realmente crucial de la exposición de Gadamer es que, simplemente, no se puede comprender o interpretar sin prejuicios o sesgos. A diferencia de los seres inmortales o las IA, el ser humano interpreta desde sus mismas herramientas, desde sus propias vivencias, desde su propia cultura, su propia educación, y los usa como conceptos que permiten preguntar. Una dirección histórica humana conduce a que “Toda actualización en la comprensión puede entenderse en sí misma como una posibilidad histórica de lo comprendido. En la finitud histórica de nuestra existencia está el que seamos conscientes de que después de nosotros, otros entenderán, cada vez de manera distinta”. (Gadamer, 1999, p. 451-452), según las posibilidades de su propia cultura y de su propio tiempo.

Como señala Hart, el Derecho intenta dejar claras sus reglas, cuando le es posible, pero deja también, e inevitablemente, cuestiones abiertas que se concretan en cada momento histórico y según las necesidades propias de cada caso. La única observación que se puede hacer a Hart y al comentario que se cita a continuación, es que sobreestima la capacidad de las reglas escritas de regular los eventos sociales: es posible que la regla general sea que hay infinidad de cuestiones abiertas, infinitas como las mismas posibilidades de la vida, o haya matices infinitos e impredecibles de casos conocidos, y solo una minoría de cuestiones estén bien definidas.

Una observación relacionada y que debería ser sumamente preocupante para los desarrolladores de los LLM’s, es que no han notado el carácter esencialmente histórico y contextual de las fuentes que toman en consideración. Deberían considerar que los textos con los cuales alimentan los cada vez más grandes LLM’s, son textos creados por humanos. Por ejemplo, cómo se expresa Dios y cómo se expresa el ser humano, son formas de manifestarse muy diferentes: “Mientras Dios expresa en la palabra su naturaleza y sustancia de una manera perfecta y en una pura actualidad, cada idea que pensamos y cada palabra en la que se cumple este pensar, es un mero accidente del espíritu”. (Gadamer, 1999, p. 510). De esta manera, los desarrolladores de las IA´s están asumiendo, sin ninguna justificación, que las expresiones humanas establecidas en la palabra escrita tienen un único y eterno significado, lo que no es posible para seres finitos e imperfectos. Como señaló Kant, los fundamentos de la moralidad no pueden ser ni Dios ni la inmortalidad, porque Dios al ser la causa de todas las cosas, sería la causa de todo delito, lo que haría inimputables a los seres humanos (Kant, 2011, p. 120), y tampoco puede ser la inmortalidad, porque el Derecho y la moral están hechos para (“y por”, agregaría Gadamer), seres finitos e imperfectos (Kant, 2011, p. 157). Por tanto, no tiene ninguna justificación, por lo menos en cuestiones jurídicas y morales, que las IA’s, en especial los LLM’s, asuman como conocimiento acabado y perfecto lo dicho o escrito por el ser humano, porque ello desconoce la característica más esencial del Derecho, la cual es su carácter fundamentalmente dinámico.

Gadamer afirma que no se puede pensar sin un ser pensante; no puede haber anticipaciones de sentido (hipótesis), sin la existencia de un intérprete. Un investigador puede imaginarse una posible respuesta a sus disquisiciones porque desde lo que conoce, desde su historia personal y su cultura, desde su educación, puede anticipar una posible respuesta que después valida, experimentalmente si se quiere. Lo mismo pasa con los textos; para poder leer un libro hace falta tener una cultura previa que permita ir adelantando o anticipando el posible significado del texto, para después ir corrigiendo con la misma lectura esas anticipaciones. Lo hace la ciencia más pura y lo hace la literatura.

Así, en la misma ciencia, de la más pura, se puede observar este proceder. Existe un estado del arte, sin contexto, sin una referencia, que comprende todo lo acontecido en la ciencia, y existe un marco teórico, que es el punto de vista desde el cual se ubica el investigador para poder hacer preguntas. De lo contrario, sin un punto de referencia propio del investigador, sin una cultura o una educación desde la cual pararse, resultaría imposible formular alguna cuestión, cualquiera que ella sea. Por ejemplo, este artículo, o cualquier otro, no sería posible sin ese marco personal y propio de referencia, como bien menciona Pareyson (2014). Gracias a la tendencia previa que se posee, desde la ontología hermenéutica concretamente, es posible plantear estas cuestiones para las IA’s. Sin esa tendencia previa, sin esa instancia contextual, sin ese sesgo o prejuicio, no se podrían hacer preguntas, de ninguna clase y por tanto no se podría comprender ni “decir”.

Así, ¿qué es una IA, específicamente una LLM? Una LLM es el puro estado del arte sin un marco teórico. Las LLM’s tienen a su disposición el entero estado del arte del ser humano y como un dios no tienen tiempo ni ubicación, no están observando desde algún lado personal y concreto, y por esa razón no formulan preguntas, es el ser humano quien hace las preguntas, en una conversación a modo de chat. Así, el ser humano, vanamente, espera de las LLM’s que desarrollen el proceso que la ciencia desarrolla, es decir, se espera que la IA se formule preguntas desde su marco teórico (que no posee), elabore hipótesis o anticipaciones de sentido (lo que no puede, porque para ello requiere tener un contexto propio), y valide esas hipótesis, corrigiéndolas paso a paso mientras desarrolla su lectura, para después entregarnos una respuesta original y nueva. Pero la realidad es otra: por ahora las IA’s no tienen este alcance porque, como resaltaron Bender et al. (2021), las LLM’s no pasan de ser una máquina que repite lo ya dicho por el ser humano sin ninguna reflexión porque hasta ahora, y por lo expuesto, les resulta imposible. Se entiende que no tienen la capacidad de hacer preguntas o un marco cultural que las pueda guiar, razón por la cual, incluso, tienden a alucinar, es decir, a generar respuestas forzadas, formalmente coherentes, para satisfacer al cliente.

Esto demostró que el test de Turing estaba equivocado. Este test se diseñó para saber cuándo una inteligencia artificial había alcanzado el nivel de inteligencia humano, y para saberlo, se propuso un procedimiento empírico en el cual un ser humano es ubicado en una recámara, desde la cual se comunica con el exterior sin saber con quién, y si este ser humano no logra distinguir con quién se está comunicando, si con una máquina o con un ser humano, y con quien se está comunicando es una máquina, esto quiere decir que la máquina ha alcanzado la inteligencia humana (Chowdhary, 2020). En otras palabras, el efecto “Eliza” impide que sea correcto el test de Turing, efecto que señala que el ser humano tiende a humanizar a las máquinas debido a que observa en ellas procedimientos autónomos similares a los humanos. Como diría Hofstadter, que un cajero se despida y dé las gracias, no significa que sienta gratitud o espere que el cliente vuelva.

No obstante, en lo que sí coinciden las IA’s, en su modalidad de los LLM’s, proviene del más rutilante y actual producto de la modernidad, esto es, la importancia del lenguaje. Para los LLM’s, como diría Wittgenstein, lo que no existe en el lenguaje, simplemente no existe. Para las LLM’s sí que es cierto que los límites del lenguaje son los mismos límites de su mundo (Wittgenstein, 2012). En palabras de Gadamer, se puede decir que la linguisticidad del conocimiento humano es inevitable; la misma matemática o el lenguaje básico de las computadoras, constituido de unos y ceros, son lenguaje. Así, la ciencia entera no es nada distinto de una versión de la naturaleza, expuesta en algún lenguaje humano, versión, por supuesto, que jamás será completa ni reflejará todos los matices del ser de la naturaleza.

Comentario que hace pensar, de inmediato en las aproximaciones ontológicas que dentro de la teoría de la computación se han presentado. Ya se había resaltado que, aunque este tipo de aproximaciones está en desuso, luce indispensable que los desarrolladores de las IA’s vuelvan a ellas. En primera medida, porque como se dijo acerca de Breuker, Valente y Winkels (2004), estas aproximaciones parten de la pregunta adecuada, acerca de qué es el Derecho y la creencia en una cierta unificación de conceptos propiamente jurídicos, con el fin de tener un lenguaje común. En Breuker y Hoekstra (2004), se hace evidente la necesidad de una ontología central unificadora que cubra los conceptos principales que son comunes a todos los dominios legales, de lo contrario, las máquinas y los seres humanos no se podrán comunicar entre sí, ni estos sistemas podrán ser compartidos por juristas de países diferentes. Como afirma Gómez Álvarez y Rudolph (2021), aunque dicha unificación de conceptos es difícil, pues se pueden esperar diferencias conceptuales entre juristas, es indispensable un marco general de comunicación, que se puede considerar más útil y versátil que forzar o soslayar estas diferencias o forzar su unificación, se agrega aquí, de manera probabilista. Es una tarea sumamente complicada, pero hace pensar en Ferrajoli y su descripción metateórica de conceptos jurídicos fundamentales como el de norma, persona o bien jurídico, presentes universalmente y respecto de los cuales debe haber algún mínimo acuerdo para poder desarrollar sistemas inteligentes de uso universal (Ferrajoli, 2013).

Desde el lado de la investigación en IA, respecto del uso del lenguaje y los problemas hermenéuticos, se puede notar que existe alguna preocupación por evaluar si concurren diferencias relevantes en el uso del lenguaje por parte de las IA’s. Sin embargo, tal preocupación se queda en la superficie de la cuestión gramatical y las estructuras, sin ahondar en la relación entre el uso del lenguaje y la misma posibilidad de razonar, de comprender. Por ejemplo, Berber (2024) destaca que, dentro de las características del idioma inglés, que permite a los usuarios realizar diferentes funciones, los LLM’s son más informativos y se encuentran menos involucrados en el texto; tienden a ser menos narrativos; intentan ser más explícitos que ser dependientes de la situación para la interpretación; son menos persuasivos; y tienen formas más abstractas, lo que facilita la identificación del texto como producido por una IA. En la misma línea de investigación se ubican Reinhart et al. (2025) que se concentran en las características gramaticales, léxicas y estilísticas para subrayar que existen diferencias considerables entre el uso del lenguaje de un LLM y un ser humano, pero, de nuevo, la cuestión se restringe a características gramaticales y formales, y no a verdaderas características esenciales del lenguaje, como se expresa con Gadamer.

Por el contrario, en el caso de Mitchell y Krakauer (2023) se destacan algunas cuestiones sustanciales, como que en el caso del “razonamiento” de los LLM. Si se expresa en un lenguaje gadameriano, debido a que las IA’s no tienen experiencia ni viven el mundo, su capacidad de comprensión está severamente limitada. A diferencia de las LLM, que se basan en modelos estadísticos que requieren masivas cantidades de información, los seres humanos se basan en su propia existencia y una serie limitada de información, con la cual logran construir conceptos complejos y mucho más ricos, por su enfoque en la profundidad. En tal sentido, a diferencia de los LLM’s, que solo tienen competencias formales respecto del lenguaje, los seres humanos pueden realmente razonar, por lo que se preguntan si ya de entrada es un error categorial calificar como razonamiento aquello que hacen las IA, un mero producto del efecto Eliza. Quizá sea necesario ensanchar lo que se entiende por razonar, o entender que lo que hacen las IA´s es muy valioso, pero diferente a lo que hacen los humanos cuando se dice que razonan. Es por esto que autores como Portelance y Masoud (2025) son necesarios para este campo del conocimiento porque están dispuestos a ampliar la investigación tecnológica a campos como el del lenguaje y la filosofía. Se subraya así, la imperiosa necesidad que tienen estos desarrollos tecnológicos de acudir a las humanidades en general.

Sin embargo, a pesar de estos avances en la investigación sobre tecnología, lo cierto es que la pregunta por las IA’s y la técnica en general es mucho más esencial, por lo que estas aproximaciones solo logran escarbar en su superficie. La pregunta por la IA es más esencial, y tiene que ver con la misma existencia y el concepto de verdad.

De esta manera, cabe destacar que Heidegger (2021) en su pregunta por la técnica, no desecha la utilidad de las herramientas técnicas como la inteligencia artificial. La técnica moderna es en esencia la búsqueda de la verdad que está determinada por su misma estructura. Casi representa un destino ineludible porque en la técnica todo se vuelve paisaje, un fondo permanente que es interpelado: el río se vuelve una parte del contexto, y es interpelado como fuente de movimiento para producir energía por la maquinaria de una hidroeléctrica; la verdad (moderna) del río es mediada por su participación en este engranaje como nuestra verdad va a ser mediada por nuestra interacción con las IA’s. El peligro, por tanto, es que el ser humano se vuelva meramente un objeto del contexto que es interpelado por el engranaje general, y así se convierta en un pasajero del destino. No obstante, este mismo peligro hace surgir una oportunidad, la oportunidad de que el ser humano se convierta en el garante o guarda de las posibilidades de la técnica, lo que le da un papel salvador y preponderante, si es que llega a comprender la esencia de la técnica y el papel que puede desempeñar dentro de ella, es decir, dentro del mundo contemporáneo, determinado por la técnica y la electrónica.

Por lo dicho, el único gesto que se esperaría de la teoría general de las IA’s, es que se abra a segmentos del conocimiento que la ciencia moderna condenó, lo cual más que un reto epistemológico es solamente un reto actitudinal. Como resalta Floridi (2023), los nuevos desarrollos de las IA’s se están convirtiendo en una oportunidad inédita, dentro de la ciencia moderna, para los filósofos, por ejemplo.

La introducción de las IA’s basadas en lenguaje (LLM’s), ineludiblemente traen bajo los reflectores la misma cuestión de qué se considera como ciencia. Un asunto como el lenguaje ordinario, de antaño tema central de la filosofía y las humanidades, se convierte en un asunto crucial e ineludible, asunto en el que las humanidades tienen mucho que decir y aportar. De esta manera, las IA’s lucen como el pináculo de la ciencia moderna, en especial por su pretensión de objetividad absoluta, pero las mismas IA’s necesitan de forma urgente ocuparse de los problemas del lenguaje, de la interpretación y comprensión, camino que ya han allanado las humanidades, tarea sin la cual no podrán desarrollar todo su potencial.

Las IA’s no pueden soslayar, de ninguna manera, cuestiones centrales del Derecho como disciplina, como área del conocimiento. Entender el problema de qué es la norma jurídica, cómo se analizan las pruebas en el Derecho, o el mismo concepto de Derecho, son asuntos que las IA’s no pueden darse el lujo de ignorar. Por lo tanto, no basta con una inteligencia general y probabilista, que analice cada disciplina de la misma manera. Cada disciplina tiene un lenguaje propio, muy difícil de establecer, pero ineludible para poder navegar en sus lindes, así, el regreso a la aproximación ontológica que busca acuerdos mínimos sobre los conceptos fundamentales del Derecho, luce ineludible.

Desde la filosofía hermenéutica, es posible censurar que las IA’s basadas en LLM’s partan de la creencia de que lo escrito posee un único sentido, además, ahistórico. Se acude a la internet sin ningún ánimo crítico, haciendo LLM’s cada vez más grandes o extensos. Por ejemplo, el “gran proyecto” actual (Hagey; Fitch, 2024), es recaudar dinero para hacer IA’s más grandes, pero como resaltan Bender et al. (2021), llega un momento en que las LLM’s pueden ser innecesariamente grandes, porque con ello no solucionan los problemas profundos del lidiar con las complejidades del lenguaje.

Asimismo, resulta ineludible plantearse la cuestión de la subjetividad-objetividad. Los desarrollos actuales de las LLM’s ignoran que el intérprete actualiza el sentido desde su propia experiencia vital, y que el texto tiene posibilidades de interpretación, que se abren según el contexto actual del mismo intérprete y la historia circundante. Quién interpreta, quien razona, parte de sus propios prejuicios o sesgos, que en la ciencia son conocidos como marcos teóricos. Es un lugar ineludible desde el cual debe pararse todo aquel, sea máquina o humano, que quiera pensar realmente, y no ser meramente un imitador.

Si seguimos las indicaciones de la hermenéutica gadameriana, las IA’s no pueden olvidar que están interpretando para este mundo, para este tiempo, y para seres finitos. Las IA’s no interpretan los textos humanos para un mundo impersonal y eterno, están interpretando para seres finitos con una cultura dada. De esta manera, específicamente para el Derecho, deben tener en cuenta que los textos con los cuales alimentan a los LLM’s tienen una temporalidad y un contexto, y que cuando los aplican a casos concretos, esa aplicación tiene otra temporalidad y otro contexto, por lo que la labor no meramente es de reproducción, sino que la labor es productiva, lo que Gadamer llama actualización de sentido, necesaria para aplicar el Derecho. No se puede ignorar que la interpretación es un proceso productivo, no meramente constatativo, que depende no solo del intérprete, sino de los casos que se presenten, que obligan al intérprete a crear una nueva posibilidad del texto para un evento novedoso.

La decisión judicial no es meramente un proceso constatativo, es un proceso productivo, es una decisión, esto debido a que normalmente implica diferentes posibilidades de entre las cuales, gracias al sentido del gusto o de moralidad, los humanos deben escoger. Por lo tanto, la pregunta última, de orden moral, como explica Gadamer, es si es ético para el ser humano rehuir a esa responsabilidad, si es ético dejar de pensar por él mismo, y delegar esa responsabilidad en una máquina.