Chat GPT, ¿el "milagro" de la Inteligencia Artificial?

¿Qué es ChatGPT?

ChatGPT es una herramienta que permite al usuario tener una conversación con una inteligencia artificial que contesta a las preguntas, elabora respuestas, proporciona información... Este chatbot es la herramienta de inteligencia artificial (IA) más conocida, y su aparición ha supuesto una conmoción entre los usuarios. Es posible y fácil "jugar" con este programa y comprobar de lo que es capaz, porque sus desarrolladores, OpenAI, han decidido dejarla en abierto de manera gratuita por un tiempo para que todo el mundo pueda probarla y poder recopilar opiniones sobre su uso y poder mejorarla. Como indican, las conversaciones dentro de la plataforma pueden ser revisadas, por lo que debes tener cuidado con compartir información sensible.

Prueba Chat OpenAI si lo deseas

¿Cómo funciona ChatGPT?

Su facilidad de uso es una de las grandes ventajas de esta herramienta. Solo debes entrar en su página web, registrarte como usuario y empezar a chatear con esta inteligencia.

Es posible hacerle todo tipo de preguntas: datos históricos, por el código de tu próxima macro de Excel o por cómo responder a preguntas incómodas en una entrevista de trabajo... las posibilidades son infinitas. Esta inteligencia artificial ha sido "entrenada" usando muchísimas páginas con información online, que son las que le permiten interactuar y dar al usuario las respuestas que le pide.

Resulta especialmente llamativo el potencial de la herramienta para crear textos sobre un tema concreto, con el tipo de lenguaje que desees (formal, informal, o al estilo de determinado autor) y de la longitud que quieras, lo que permiet, en cuestión de segundos, obtener un resumen formal del libro El Quijote, un informe sobre las últimas tendencias de tecnología, un listado de los acontecimientos importantes de la historia de España o una explicación informal de la teoría cuántica en solo 5 líneas, por poner algunos ejemplos.

Además, sorprende la calidad de lenguaje de la herramienta, muy similar al lenguaje humano y lejos de las respuestas inconexas, con errores de ortografía o concordancia que hemos visto en otros robots. Precisamente, en su rapidez, esa versatilidad y en esa calidad radica la verdadera "magia" de esta herramienta.

¿Cuáles son los riesgos o limitaciones de ChatGPT?

Ya los propios desarrolladores advierten, antes de empezar a usar esta herramienta, de que “ocasionalmente el sistema podría generar información incorrecta o engañosa”. Este es el primero de los riesgos, pero no el único.

Veracidad de la información

En las pruebas se han detectado a menuco casos en los que la respuesta es incorrecta (escritores que no pertenecen a la época que dicen, descripciones incorrectas de alguna teoría, macros de Excel que no funcionan....). El problema es que ignoramos la fuente de la que ChatGPT extrae la información, a diferencia de cuando se realiza una búsqueda con Google, con lo que no es posible saber la reputación del sitio del que viene, valorar la fiabilidad y calidad de la fuente. dEs importante saber de donde viene la información y en este caso no se puede.

Sesgo de los datos

No sabemos todas las características de la información con la que han sido entrenadas estas herramientas, pero no es posible que se trate solo y exclusivamente de datos verídicos, actualizados o contrastados:

• De entrada, en Internet hay muchos sitios con noticias falsas (por tanto los resultados generados a partir de estos contenidos estarían comprometidos). 
• Además, aun cuando la información se da por cierta, podría estar sesgada por ideologías políticas, por no representar la diversidad, por no tratar de manera justa a todos los colectivos.... 
• Sí sabemos, que chatGPT solo ha sido entrenada con datos anteriores a 2021, por lo que cualquier pregunta relativa al estado socioeconómico de un país, no tendrá en cuenta los acontecimientos del último año.

Copyrights y plagios

Este es otro aspecto espinoso:

• Algunos de los textos producidos por ChatGPT pueden ser copiados, parcialmente o en su totalidad, de páginas que pueden tener derechos de autor. Por ejemplo, los contenidos de OCU tienen copyright. Imaginemos que una empresa de electrodomésticos utiliza esta herramienta para generar un contenido sobre la calidad de las distintas lavadoras para ayudar a sus clientes a elegir mejor, y que este contenido se genera en su mayor parte de nuestros resultados de los análisis en el laboratorio. ¿Quién sería responsable, la herramienta o la empresa que ha publicado la información producida por esta inteligencia artificial?
• A la herramienta también se le puede pedir que te escriba un texto estilo “Vargas Llosa”. ¿Estar inspirado por un autor es saltarse el copyright?
• Algo similar ocurre en las escuelas y universidades, donde miles de estudiantes ya están utilizando esta herramienta para producir en segundos ensayos sobre un tema... en vez de trabajarlos ellos, como debería ser.

Ya han salido algunos programas (como ChatZero) que pueden identificar si un contenido se ha generado con ChatGPT, pero ¿y si se ha usado otra inteligencia artificial?, ¿o si se recurre a herramientas diseñadas para saltarse los controles de plagio?

ChatGPT cambia nuestra visión de la IA

En cualquier caso, es indudable que con esta herramienta de OpenAI los usuarios por primera vez hemos sido conscientes de la potencia de una inteligencia artificial: de cómo es capaz de procesar millones de datos en muy poco tiempo y presentar una solución a las más variopintas cuestiones.

Además de ChatGPT hay otras muchas herramientas que utilizan la inteligencia artificial para generar rostros humanos aleatorios,logran imágenes producidas automáticamente con unas características predefinidas, preparar presentaciones de Powerpoint a partir de informes escritos…

Este tipo de herramientas pueden ayudar a las personas a hacer en mucho menos tiempo tareas que antes llevarían días. Su potencial es ingente... pero como con casi todo, se pueden utilizar estas potentes herramientas de IA para hacer las cosas bien o para hacerlas mal: para aprobar sin esfuerzo un trabajo de la universidad, o para desarrollar más rápido un código complejo que lleve un satélite al espacio. En cualquier caso, la mente humana siempre tiene que estar detrás para elegir lo que toma y lo que deja.

OCU, por una IA ética, transparente y responsable

Las personas necesitamos desarrollar un pensamiento crítico para tomar nuestras decisiones, forjar nuestras ideas, hacer elecciones... es parte de la formación, y que nos lo den todo hecho, no ayuda mucho al desarrollo de ese pensamiento crítico. Hoy día ya convivimos con el riesgo de la desinformación, de las manipulaciones, y esto va más allá. La tecnología en sí misma, no es buena ni mala, pero tampoco es neutra: cómo está diseñada y cuales sean sus objetivos y controles van a definir los límites de su buen o mal uso. 

En la actualidad no hay una normativa específica para la regulación de la inteligencia artificial (IA) y se aplican las normas en materia de protección de datos personales, de protección de los consumidores y usuarios o de competencia, pero pueden no bastar en una realidad cambiante.

Desde OCU creemos que es preciso cumplir una serie de buenas prácticas en el desarrollo de las inteligencias artificiales para que sean éticas, transparentes, imparciales y respeten los derechos fundamentales:

• Transparencia sobre el tipo de información con la que se ha entrenado la herramienta y la fuente de la que proviene.
• Asunción de responsabilidad por la veracidad de la información proporcionada o, en su defecto, claridad acerca de si está o no comprobada esa información y de las formas de comunciar su exactitud.
• Compromisos para evitar que los algoritmos de la herramienta lleven a discriminación de género, raza, religión, socioeconómica o de cualquier otro tipo produciendo información diferente en función de estas características.
• Compromiso de no contribuir a delitos y de colaborar con la ley si se descubren conductas de riesgo de delitos.
• Las inteligencias artificiales y todas las tecnologías (robots, algoritmos, etc), deben tener obligación de identificar, prevenir, mitigar, rendir cuentas y responder (sus responsables incluso penalmente) por los impactos negativos de sus actividades.
• Que se adopte el principio de precaución ante consecuencias o usos imprevisibles de la IA.