La inteligencia artificial. Reflexiones

Hace algunos meses publiqué una entrada en este blog, en la que daba mi opìnión sobre el miedo que generaba la inteligencia artificial (IA) en las personas  (Ver El miedo a la inteligencia artificial)

Cada vez me convenzo de las ventajas y los peligros de las herramientas nuevas y de los riesgos cuando las personas no las utilizan adecuadamente. Con respecto a este tema tengo varias observaciones:   

Primero, el público en general confunde los sistemas inteligentes de lenguaje con la inteligencia artificial. 

Segundo: La mayoría de las personas no sabe utilizar las herramientas para sacarles el mayor provecho, pero confían en ellas más de lo que debrerían aún sin aplicar ningun filtro.  

Tercero: Cuando utilizamos la inteligencia artificial obtenemos resultados tan inteligentes, como el nivel de inteligencia de quien los usa. 

Paso a aclarar cada punto, advirtiendo que no soy un experto en el tema pero sí un usuario que ha explorado las posibilidades que dan los sistemas puestos a disposicion del público. 

¿Qué es la inteligencia artificial?

La inteligencia artificial es una rama de la informática que se enfoca en el desarrollo de sistemas capaces de realizar tareas que requieren inteligencia humana. 

Para considerarse inteligente debe tener ciertas características: 

• Capacidad para aprender

• Adaptabilidad

• Automatización

• Razonamiento y toma de decisiones

• Interacción natural

Lo que la mayoría de la gente conoce es solo una parte de la "inteligencia artificial". Desde hace muchos años los correos electronicos, los buscadores, los sistemas de mensajeria utilizan sistemas predictivos que recopilan informacion sobre búsquedas, formas de expresion y aprenden a anticipar lo que un usuario va a escribir o quiere encontrar.  

Sin embargo, la inteligencia artificial va mas allá. Hace unos años me sorprendió que luego de alimentar bases de datos biomedicos, la inteligencia artificial pudo hallar patrones en las huellas digitales que podían diagnosticar o predecir una esquizofrenia (ver artículo).  Eso es inteligencia artificial.  Nadie le enseñó eso, pero pudo descubrir patrones que fueron validados posteriormente. 

En el campo médico la inteligencia artificial ayuda a detectar fracturas en radiografias que un médico entrenado no sería capaz de ver, o calcular fracciones de expulsión cardiaca o porcentajes de alveolos activos, que posiblemente no podrían ser exactos si fueran revisados por un humano. 

Las posibilidades que brinda la inteligencia artificial son incalculables: máquinas que pueden aprender ellas solas sin la interveción humana. La duda es si estarían en capacidad de tomar decisiones acertadas. ¿La Inteligencia artificial estará en disposicion de decidir correctamente a quién aplicar un tratamiento?  ¿Dónde queda la ética? 

Asumamos que le digo a la IA que tengo diez mil pacientes  con cáncer y que solo cuento con los recursos suficientes para administrar 500 tratamientos, y que le doy la responsabilidad de decidir a quienes debo administrarlos. ¿Los eligirá segun la edad? ¿Según la expectativa de vida que tengan? Según la cantidad de personas que dependen económicamente de cada paciente? ¿Según el rol que cada paciente cumple en la sociedad? 

Posiblemente tomará las decisiones más racionales, pero no necesariamente las más humanas. 

Pero hoy no me voy a centrar en el tema médico. 

Quiero hablarles de lo que la gente conoce como IA, que generalmente corresponde a sistemas de procesamiento de lenguaje

Existen varios sistemas de procesamiento de lenguaje que unidos a bases de datos son presentados como AI (inteligencia artificial) 

Los más conocidos son 

• GPT-3 (Generative Pre-trained Transformer 3), desarrollada por OpenAI.
• BERT (Bidirectional Encoder Representations from Transformers):   (Google BARD – GEMINI) Desarrollado por Google.
• T5 (Text-To-Text Transfer Transformer):  Desarrollado por Google
• BING y Copiloto  Desarrollado por Microsoft  Copiloto Fusionado con su navegador Microsoft EDGE, y recientemente con el Office 365

Estos sistemas tienen la capacidad de aprender de sus usuarios y son muy intuitivos. Por medio de algoritmos aprenden los gustos y preferencias de los clientes. 

Soy un usuario frecuente de estos sistemas y aqui van algunas reflexiones basadas en mi experiencia: 

Estos sistemas se fundamentan en bases de datos muy amplias y extensas, pero con pocos filtros. Por tal razón sus respuestas pueden ser extraidas de fuentes no confiables. He hecho preguntas que han obtenido respuestas falsas.  Al hacerlo notar, generalmente la IA se disculpa e inventa otra mentira para reponer la anterior. Esto se debe a que las preguntas no son concretas y a que el modelo de lenguaje humano funciona así. 

Hace poco hice una consulta sobre la relacion entre tener los lipidos bajos y los accidentes de tránsito, y me dio una respuesta citando revistas médicas muy famosas. Cuando verifiqué las fuentes, esos artículos no existían. ¡los había inventado! Se lo hice saber, y el sistema solo se disculpaba e inventaba más respuestas falsas. (ver imagen). 

Pongo un ejemplo:  si yo le pregunto a GPT o Copiloto cuál es el mejor tratamiento para un dolor de garganta, ellos buscan en sus bases de datos generales, y podrían responder que el  jugo de limón con jengibre, debido a que no establecí si quiero la respuesta más frecuente o la más científica. (todo depende de lo que haya en la red de la que se alimenta y de lo que yo acostumbro leer). Si la web está llena de información falsa, se corre el riesgo de que la respuesta salga de esa base de datos.  Pero si hago una pregunta específica y bien hecha, aumenta la posibilidad de que me de la respuesta correcta. 

Ante la pregunta: Asume que eres un médico especialista en otorrinolaringologia y dime cuál es el tratamiento ideal para una amigdalitis teniendo en cuenta las revistas médicas indexadas de los últimos cinco años. Dame una tabla de los tratamientos, dosis y tiempo de duración, ventajas y desventajas, casi con seguridad, me dará una respuesta más o menos correcta desde el punto de vista médico. 

Hace poco en un taller que dictaba hicimos el ejercicio de preguntarle a Chat GPT cuáles eran las ventajas de los autos eléctricos. Respondió que eran más ecoamigables, que bajarían las emisiones de CO2 y que reducirían los daños al planeta ocasionados por la minería.  Pero cuando le pedí que asumiera que era un ingeniero de minas y que me explicara cuáles eran las ventajas de los autos eléctricos, me dio una cátedra explicando que los autos eléctricos favorecerían la industria minera porque incrementarían la necesidad de Cobre, Cobalto, Zinc, Hiero, Aluminio, Cadmio y Níquel, entre otros. En otras palabras sería ventajoso para los mineros que la gente usara carros eléctricos, porque aumentaría la extracción de dichos minerales.  

De ahí que sea importante para todos aprender a hacer un PROMPT es decir, dar las instrucciones a la IA para que nos dé lo que queremos que realmente que nos dé. 

Para ello se deben tener en cuenta cinco puntos: 

• Definir el rol
• Asignar la tarea
• Establecer el contexto
• Especificar los límites. 
• Indicar el formato de salida

Retomemos el ejemplo del tratamiento de la amigdalitis. 

Asume que eres un médico especialista en otorrinolaringologia (rol) y dime cual es el tratamiento ideal para una amigdalitis (tarea) en personas adultas mayores de 18 años, que vivan en areas urbanas (contexto)  teniendo en cuenta las revistas médicas indexadas de los últimos cinco años (límites). Dame una tabla de los tratamientos, dosis y tiempo de duración, ventajas y desventajas (formato de salida)

Hay que tener en cuenta que si yo no lo delimito, podría darme una respuesta para el tratamiento de la amigdalitis en perros, o darme las recomendaciones adecuadas para una tribu de indígenas que no tienen acceso a medicamentos especializados (bebedizos, y pociones herbales). La inteligencia artificial asume las respuestas que cree que yo necesito, y si no hago la pregunta correcta puedo incurrir en una respuesta erronea. 

Incluso, en el Prompt que escribí, cometí un error y no definí un aspecto.  No hice claridad sobre si la amigdalitis sería bacteriana o viral, o irritativa (mecánica).  Esa falta de claridad me puede cambiar la respuesta (la amigdalitis bacteriana puede requerir de un antibiótico, mientras que en la viral o mecánica  puede necesitar solo analgesicos, o antiinflamatorios y estar contraindicado el uso de antibióticos). ¿Ven la importancia de hacer bien la pregunta?

En cuanto a las tareas y el formato de salida existen muchas alternativas ( Actúa... - Crea...  Dibuja...  Analiza... Traduce... Resume... - define...  - Idea un(a).... Haz una Tabla... un dibujo... un marco conceptual... un cuado comparativo... etc) -

Como expuse al principio, la calidad de la respuesta de estos sistemas depende de la inteligencia de quien los usa. 

También hay que tener en cuenta algo: Las bases de datos que alimentan estos modelos no siempre están actualizados. Por ejemplo, al momento de escribir esta entrada, Chat GPT (version 3) trabajaba con bases de datos actualizadas a junio de 2024.  Es decir, no me responderá con informacion más reciente y eso lo debo tener en cuanta cuando decida con que herramienta voy a trabajar. 

Por último, y tal vez lo mas importante, es verificar que las respuestas dadas sean verificables. Estos sistemas busca la aprobación del público. De ahí que sea tan peligroso que la gente no verifique la información. Cuando Chat GPT (o cualquier otro) entrega un dato falso y el usuario lo acepta como verdadero, se crea un sesgo de comprobación.  La inteligencia artificial asumirá que dio la respuesta correcta y la utilizará la próxima vez.  Por eso hay que verificar y hacer la retroalimentación.  Eso implica que para poder servirnos de la inteligencia artificial, debemos tener una inteligencia natural que la supere. Ella nos da respuestas rápidas y tiene gran cantidad de información, pero somos nosotros quienes decidimos si sus respuestas son validadas o descartadas. 

Hay más cosas que podría contarles sobre estos nuevos modelos, pero sería muy extenso. Mi recomendación es que los exploren y aprendan a sacarles mayor provecho. Y siempre verifiquen la información recibida. 

A continuación les dejo una imagen que me encontré (concedo los respectivos créditos a sus autores) en la que explica la forma de crear un prompt para investigación. Espero les sea de utilidad.