El rápido e intenso desarrollo de la Inteligencia Artificial hace que se planteen determinadas cuestiones relacionadas con la filosofía que inquietan sensiblemente a la sociedad.
Cómo asegurar que la tecnología se utiliza de forma ética, cuáles son las líneas rojas de la Inteligencia Artificial (IA) o cómo garantizar que estamos evolucionando la tecnología en una senda razonable, son algunas de estas cuestiones. Es en este complejo escenario que la filosofía de Wittgenstein puede ser una propuesta interesante para contribuir a reducir la complejidad de la Inteligencia Artificial integrada con la filosofía.
Con la Industry 5.0 y la Society 5.0 (una versión ampliada a otros ámbitos), aparecen nuevos y exigentes retos para una sociedad con un nivel y sofisticación tecnológica nunca vistos hasta la fecha. La versión Industry 5.0 pone el foco en asegurar que esos avances tecnológicos se destinarán más a las personas, la sostenibilidad y la resilencia.
¿Tecnología condicionada por la ética?
Hay varias iniciativas para intentar dilucidar estos aspectos, como aplicar criterios éticos definidos a la hora de diseñar nuevos equipos y programas, que garanticen unos mínimos éticos. En este caso, los equipos humanos deberán de ser interdisciplinares (filósofos, sociólogos, ingenieros, etc.) para conseguir estos objetivos. Además, en muchos casos también habrá que hacer un seguimiento detallado durante todo el ciclo de vida del producto. Actualmente, están en marcha diversas iniciativas para definir y consolidar estas propuestas.
No obstante, una posibilidad adicional consiste en utilizar la propia IA para pre-evaluar de forma automática a nivel ético, estético, etc.), un texto o una imagen concreta, así como las consecuencias que pudiera tener el resultado final de un proceso automático. En caso de llevar a cabo esta alternativa, es obvio que habría que controlar y limitar su impacto en un espacio seguro.
Si nos adentramos en esta idea de conseguir evaluar un flujo masivo de datos, será necesario solventar varios aspectos fundamentales: estructurar un modelo de IA funcional y consecuente, escoger un marco filosófico suficientemente adecuado para monitorizarlo (directa o indirectamente) e implementar un sistema con tecnología apropiada para esta compleja aplicación.
Para comenzar a organizar un modelo IA en esta línea, una opción atractiva es acudir a la filosofía de Ludwig Wittgenstein. A su favor, es que las ideas de Wittgenstein propician un acercamiento entre filosofía y tecnología, además de proporcionar objetividad en el análisis. En contra, es qué, a primera vista, parece que los pensamientos de Wittgenstein se alejarían de una propuesta IA que optara a una posible evaluación ética. Aunque mezclar Wittgenstein con IA y ética parezca una contradicción de primer orden, veremos cómo puede conducirse esta delicada cuestión y llegar a una solución elegante y efectiva, que facilite y proporcione unas líneas maestras para el desarrollo de una implantación IA avanzada con vistas en el futuro.
Filosofía analítica
Aunque la filosofía analítica ya había sido anticipada por Gottlob Frege y Bertrand Russell, entre otros, es Wittgenstein quién le proporciona un gran impulso. Precisamente, es uno de los periodos en que filosofía y tecnología registran uno de sus máximos acercamientos.
Curiosamente, Wittgenstein sólo publicó en vida un solitario libro con menos de 100 páginas (publicado en 1921), titulado Tractatus Lógico Philosophicus. Pero sus pensamientos no quedarían completos si no añadimos un segundo texto (en forma de compendio de reflexiones), que vio la luz después de su muerte, publicado con el título de Investigaciones Filosóficas.
Wittgenstein nació en Viena (1889) y fue el último de ocho hermanos de una familia adinerada (aunque él renunció a su herencia). Estudió ingeniería aeronáutica en Manchester, pero su pasión por la filosofía lo llevó a Cambridge para estudiar esta especialidad. Fue discípulo de Bertrand Russell, que rápidamente se percató del gran potencial que tenía su alumno y lo convirtió en su protegido.
Pasado un tiempo, el filósofo decidió regresar de nuevo a Austria, para trabajar como profesor en una escuela rural de primaria, pensando que ya no tenía más que decir sobre filosofía y cansado del ambiente universitario. Posteriormente, estalló la Primera Guerra Mundial y se alistó en el ejército Austrohúngaro. Una vez terminada la contienda, siguió alejado de la universidad, pero su obra ya se había publicado.
Con el paso del tiempo, sus colegas británicos lo reclamaron y decidió regresar a Cambridge (1929). Para entonces, el Tractatus ya se había difundido ampliamente y Wittgenstein era toda una celebridad. El Tractatus marca su primera etapa de pensamiento, un texto ambicioso que se da a múltiples interpretaciones. A su llegada a Inglaterra, acude a recibirlo nada menos que John Maynard Keynes, que llega a comentarle a un amigo: “¡Dios ha llegado! Es entonces cuando se inicia la segunda etapa de sus pensamientos.
La primera etapa de Wittgenstein
Comencemos por la primera etapa. Sintetizar en pocas líneas el pensamiento de Wittgenstein es tarea compleja. No obstante, en el resumen que sigue, un técnico de software o un diseñador de procesos encontrará familiaridad con los diversos puntos que se apostillan (siempre guardando las distancias). De hecho, Alan Turing, uno de los precursores de la informática e inventor de la máquina Enigma, acudió a las clases impartidas por Wittgenstein en Cambridge.
La filosofía analítica es básicamente una filosofía del lenguaje. Se cuestiona el significado del propio lenguaje, como por ejemplo mesa, antes de lo qué es la cosa en sí. Para Wittgenstein, el lenguaje es como si pintara gráficos que crean imágenes objetivas en la conciencia. Concluye que lo único que puede analizarse es el lenguaje.
Según Wittgenstein, el lenguaje es una colección de “proposiciones” y cada proposición puede ser verdadera o falsa. Una proposición verdadera expresa un hecho real (por ejemplo, el gato se estira en el suelo); existen igual número de hechos reales que de proposiciones verdaderas (teoría figurativa o de las imágenes). Como las proposiciones copian al mundo real, si se analizan todas las proposiciones, se puede analizar el mundo completo. Wittgenstein piensa que el mundo real es la totalidad de los hechos que acontecen.
Para Wittgenstein, una frase no verificable resulta siempre imprecisa respecto a la correspondencia con sus hechos; independientemente de que su contenido sea verdad o no, la frase será imprecisa, como consecuencia de haber hecho un uso incorrecto del lenguaje. Por ejemplo, proposiciones no verificables, como “Dios ha muerto” o “la virtud es conocimiento”, no tienen sentido y representan un uso incorrecto del lenguaje.
Afirma que las respuestas que ofrece la filosofía tradicional a cuestiones como ¿puede el ser humano llegar a alcanzar la verdad? o ¿Dios existe?, persiguen verbalizar algo que no se puede expresar con el lenguaje y, por lo tanto, no tienen respuesta (o no se pueden demostrar). En definitiva, para Wittgenstein, esta filosofía constituye un saber inútil por el uso equivocado de las palabras.
Wittgenstein piensa que el verdadero papel de la filosofía consiste en determinar los límites de lo que puede decirse y de lo que puede ser representado por el lenguaje (la frontera del lenguaje). Además, afirma radicalmente que “hemos de guardar silencio respecto a lo que no se puede expresar con el lenguaje”.
La segunda etapa
En su segunda etapa de pensamiento, Wittgenstein introduce cambios significativos y hace autocrítica. El estudio filosófico del lenguaje vira hacia una perspectiva más pragmática. Se da cuenta de que el lenguaje científico y académico utilizado en Cambridge no es óptimo, ya que, directa o indirectamente, deriva del lenguaje cotidiano. Por lo tanto, el lenguaje ordinario que utilizamos diariamente en nuestra conversación es el verdadero lenguaje original.
Adoptar el lenguaje cotidiano supone abandonar la correspondencia unitaria de proposición y hecho. Ahora hay más posibilidades, ya que el significado de las palabras y el sentido de las proposiciones estará en función del uso del lenguaje, su contexto y las características intrínsecas de cada comunidad que lo habla. A esta particularidad, la denomina “juego de lenguaje”. Con esta aportación, una proposición puede ser absurda si se utiliza fuera de su juego de lenguaje como, por ejemplo, “hace mal tiempo”.
Con la filosofía tradicional, Wittgenstein piensa que se establece un “juego de lenguaje enredado”, cuyas reglas no están determinadas, ya que es la propia filosofía que pretende establecer esas reglas (y así se alimenta un círculo vicioso).
Para él sólo el lenguaje es capaz de crear una imagen objetiva en la conciencia y lo único que puede analizarse es el significado de sus palabras (a eso lo denomina “giro lingüístico”). Sólo así se puede llegar a una filosofía objetiva. Wittgenstein vivió la Segunda Guerra mundial en Gran Bretaña y compaginó la docencia universitaria con otros trabajos no relacionados con esta actividad. Murió en Cambridge en 1951
En síntesis, Wittgenstein intenta desarrollar las herramientas necesarias para conseguir una filosofía objetiva y científica, estableciendo límites a lo que puede decirse y a lo que no. Afirma rotundamente que: “los límites de mi lenguaje son los límites de mi mundo”. Su influencia ha sido enorme en la filosofía.
Un modelo IA basado en Wittgenstein
Hay voces críticas que se inclinan a pensar que Wittgenstein no estaría a favor de la IA. No parece que fueran de su agrado los primitivos modelos computacionales de la época o el conocido test de Turing (una prueba para saber si un evaluador externo sería capaz de distinguir entre una máquina o un humano).
No obstante, estas cuestiones son irrelevantes si la filosofía de Wittgenstein puede resultar útil como base para implementar una aplicación de la IA orientada a la preevaluación ética. La clave está en la denominada “frontera del lenguaje”. Conceptos referentes a la ética pueden quedar fuera de esa frontera del lenguaje trazada por Wittgenstein, pero la ventaja de utilizar su filosofía para un modelo IA, que pudiera realizar una pre-evaluación ética, es que este aspecto proporciona una metodología y estructuración muy atractiva a la hora de diseñarlo y ejecutarlo. De hecho, son un emparejamiento casi perfecto
Tecnologías como NLP (Natural Language Processing), ML (Machine Learning) o DL (Deep Learning) parecen idóneas para implementar esta funcionalidad. ML es una tecnología que forma parte de la IA y permite que el sistema aprenda de forma automática, sin ser explícitamente programado. Este aprendizaje puede ser supervisado o no. DL es una extensión o subconjunto de ML que utiliza redes neuronales, intentando emular a las de un cerebro humano, aunque guardando las distancias. NLP también forma parte de IA y en muchos casos puede considerarse como una aplicación de ML y DL. Actualmente ya hay aplicaciones de IA que podrían inspirarse en Wittgenstein. Un ejemplo podría ser el popular Google Translator, basado en NLP.
Estos sistemas se entrenan con millones de datos, básicamente compuestos por ejemplos de textos, imágenes o sonidos (que han sido previamente evaluados convenientemente). Consiguen identificar patrones o formas determinadas de datos a gran escala (Big Data). El aprendizaje puede ser supervisado o no.
El formato de los datos de entrada a los motores de IA es un punto importante. En este sentido, la gestión y orquestación de datos evolucionan rápidamente y contribuyen a una alimentación más consistente de los algoritmos. La orquestación es clave y se refiere a poder utilizar distintos formatos de datos, ya sea texto, video o audio. En cualquier caso, los datos de entrada de una propuesta Wittgenstein tendrían que acabar siendo formulados en un texto. Incluso sería posible detectar proposiciones poco visibles y poder aflorarlas, ampliando las posibilidades del sistema.
Espacios de proceso diferenciados
Conseguir una evaluación ética de sentencias con IA es una tarea compleja. No obstante, hacer un ejercicio teórico para dar con un esquema potencial de funcionamiento parece una idea atractiva que puede dar frutos.
Genéricamente, este sistema IA residirá en la nube y le llegarían propuestas desde distintos entornos externos. Una alternativa interesante consiste en dividir el sistema en dos partes: uno se correspondería con un Espacio Wittgenstein (WS), en que se aplicaría estrictamente un criterio de la filosofía del lenguaje; el otro sería un Espacio No Wittgenstein (NWS), en que se procesarían las propuestas no verificables en WS, muchas de ellas asociadas con la Metafísica. Tanto en un espacio como en el otro, podrían utilizarse predominantemente técnicas NLP/ML/ DL. Un aspecto clave de esta estructura es que la organización y arquitectura deberían ser independientes de las técnicas IA que finalmente se utilizarán en el sistema.
En el espacio WS, el lenguaje es esencial, aunque la captura de datos podría provenir tanto de texto, audio o imágenes, con la posibilidad de utilizar un sistema multimodal. Al final, siempre se expresarían en una sentencia que utilizaría texto. Sería como una plataforma de simulación en que se obtendría un resultado en que la propuesta es verdadera o falsa y si es verificable o no.
Cuando en WS se obtenga una respuesta no verificable, el proceso continuaría hacia el entorno NWS, en donde también se aplicarían técnicas de IA, aunque los algoritmos podrían diferir sensiblemente o ser completamente distintos a los de WS. En cualquier caso, serían espacios independientes. El sistema proporcionaría un resultado de NWS basado en una valoración de si la frase es más o menos ética, expresándolo en una escala numérica, por ejemplo.
Así pues, en el espacio WS los criterios de evaluación quedan relativamente bien definidos. Pero para la configuración del NWS se podría apostar por un diseño técnico inicial con criterio agnóstico, para después implementarlo y entrenarlo con base a una filosofía híbrida específica (Kant, Hegel, Hume, etc.). Es obvio que en este punto habrá controversia, con una diversidad de propuestas de criterio en función de muchas variables (y particularidades culturales), pero esto es así, independientemente de que se utilice una máquina o no. A partir de aquí, los algoritmos se entrenarían convenientemente a los criterios seleccionados.
En definitiva, el espacio Wittgenstein actúa como un filtro excepcional para todas las proposiciones que deben de ser valoradas, reduciendo la complejidad del sistema.
Valoración de la propuesta
Como no podía ser de otro modo, una propuesta de este tipo se enfrenta con dificultades técnicas que tendrán que superarse. Una de ellas, es la velocidad de ejecución del proceso automático de evaluación, que para muchas aplicaciones a gran escala puede llegar a ser crítico. En este aspecto, hay que remarcar los avances en tecnología de hardware y software, aunque lo que puede llegar a proporcionar un empuje definitivo será la futura implantación de ordenadores cuánticos en la nube.
No obstante, la velocidad de los sistemas actuales puede ser suficiente para muchas aplicaciones. Además, pueden utilizarse técnicas que incrementen la concurrencia de procesos. Por ejemplo, para una propuesta se pueden ejecutar en paralelo los algoritmos WS y NWS, abortando la operación NWS, cuando resulte una respuesta WS no verificable.
Hay diversidad de técnicas y algoritmos de IA en la actualidad. Muchos evolucionarán hacia versiones mejores, pero también emergerán nuevas posibilidades. En cualquier caso, para implementar un sistema es probable que se requieran modelos IA híbridos, basados en distintas tecnologías y algoritmos.
Otro reto de calado es llegar a conseguir una fiabilidad suficiente de la IA para ejecutar estas tareas. Aunque los sistemas van mejorando sensiblemente, en determinadas aplicaciones o situaciones se proporcionan resultados erróneos, poco consistentes o con un sesgo indeseable, entre otras deficiencias.
En cualquier caso, cuando el resultado requiere una indagación de por qué la máquina se pronunció por una determinada opción, será necesaria una funcionalidad de explicabilidad de la IA (XAI), es decir, disponer de la trazabilidad de los pasos que se suceden en la máquina hasta proporcionar ese resultado. Esto es importante para conseguir que un humano pueda interpretar el proceso, disminuyendo el efecto de “caja negra”. La explicabilidad es imprescindible para cumplir con determinados estándares normativos o para permitir que los afectados por una decisión de la máquina puedan impugnarla. Si se aplica la elegante y estricta filosofía analítica de Wittgenstein a la IA, se tenderá a favorecer esa explicabilidad.
Un aspecto interesante es que estas máquinas irán aprendiendo y acumulando conocimiento. En este sentido, será deseable que el sistema pueda comprobar la idoneidad de sus resultados a través de un feedback adecuado.
Conclusiones
Los pensamientos de Wittgenstein podría ser la base para conseguir un diseño que integrara parte de la ética en el propio software o dispositivo. Aunque, según Wittgenstein, la ética queda fuera de los límites del lenguaje, su filosofía se manifiesta como un filtro elegante y clarificador, que podría contribuir a implantar modelos de IA eficientes para intentar dar respuesta a estas cuestiones, mejorando su estructura y reduciendo la complejidad del sistema.
Tal como se ha comentado, una aplicación atractiva de la IA basada en Wittgenstein es que pueda proporcionar una preevaluación de un resultado para saber si cumple con determinadas exigencias éticas o estéticas.
No obstante, otorgar a una máquina ese privilegio entraña riesgos, pero una funcionalidad limitada en un entorno controlado (sandbox) facilitaría enormemente la posevaluación humana para un cauce potencial masivo de acciones determinadas. Obviamente, para aspectos sensibles y de impacto, la supervisión humana es imprescindible. La inteligencia de una máquina no se parece a la de un humano, pero puede llegar a complementarla, siempre con las debidas precauciones
Sin duda, el modelo de IA propuesto aún queda lejos de poderse materializar, pero abre un planteamiento atractivo por el que poder avanzar. En esta propuesta, la filosofía se avanza a la propia tecnología, elaborando un marco elegante y clarificador para fomentar un debate crítico y colaborativo para conducir esta tendencia tecnológica emergente.
Por: Xavier Alcober Fanjul, Xavier nació en Barcelona y es ingeniero con experiencia en automatización industrial
