Compartir
La Biblioteca Jorge Luis Borges en La Nación
La Biblioteca Jorge Luis Borges de la Academia Argentina de Letras informa que fue contactada por la periodista Gisela Antonuccio, para la redacción del artículo «Alucinaciones de la IA. Inventa libros y artículos cuando no sabe una respuesta», publicado el pasado 13 de marzo en la sección Cultura del periódico La Nación.
En el marco de la nota, la Academia Argentina de Letras fue consultada como referente institucional. La académica de número Alicia María Zorrilla, aportó su mirada sobre los desafíos que plantean las herramientas digitales, mientras que la directora de la Biblioteca compartió experiencias concretas con usuarios que ilustran el funcionamiento de estas tecnologías.
Compartimos la nota completa:
«Alucinaciones de la IA. Inventa libros y artículos cuando no sabe una respuesta»
Además de simular voces y caras humanas, los chatbots impostan conocimiento; la biografía falsa de Güiraldes y otros casos insólitos.
Gisela Antonuccio, en La Nación — ¿Alguien escuchó hablar del Journal of International Relief? ¿Y del Repositorio Digital Humanitario Internacional? Y por casualidad, ¿Vida y obra de Ricardo Güiraldes (Editorial Kraft, 1952)? ¿No? Porque nada de todo eso existe. Son alucinaciones de la inteligencia artificial, que además de simular voces y caras humanas, también imposta sabiduría y conocimiento.
La IA está inventando artículos académicos que no existen y libros que jamás fueron publicados. Lo inquietante es que esas fuentes están siendo citadas en revistas reales por investigadores y estudiantes desprevenidos. Es tal la proliferación de referencias a artículos falsos que muchos académicos creen que se está socavando la legitimidad de la investigación institucional y, por lo tanto, el futuro inmediato de ella.
[…] Celia Weimer, directora de la Biblioteca Jorge Luis Borges de la Academia Argentina de Letras, se encontró a sí misma buscando Ricardo Güiraldes: Su vida y su obra, de Alberto Güiraldes, Editorial Kraft, 1952. «Sucedió el año pasado, a pedido del investigador Juan Sebastián Morgado. No teníamos ese título y comenzamos a buscar en otras bibliotecas sin éxito. Lo volvimos a contactar por la posibilidad de que hubiera algún dato de la cita erróneo. El usuario insistía en que la cita era la proporcionada y comencé a sospechar por propia experiencia. Así que le pregunté de dónde la había extraído y me contestó que de ChatGPT», contó a La Nación.
«Lo que vino después fue bastante hilarante porque increpó al Chat por la información errónea y descubrió que la IA había inventado una gran cantidad de información; lo reconocía y ponía excusas como que seguramente había sido extraída en forma errónea de una carta de una tía. Un disparate total», agregó. Morgado compartió su fastidio con La Nación.
«La actual IA es la sucesora de Google, con más ‘pretensiones académicas’ pero similares problemas. En mis trabajos aparecen constantemente disparates, inconsistencias. Por eso recurro a la diversificación de las fuentes», dijo. Sobre el «libro fantasma» de la vida de Güiraldes, contó: «Confronté varias fuentes y no existe. Aparece la referencia en alguna web y se reproduce el error ad infinitum».
El autor preguntó a la IA sobre la vida del autor de Don Segundo Sombra y su esposa, Adelina del Carril, en 1925. «Me contestó con una serie impresionante de detalles: viajes a España, Francia, vuelta a España, retorno a la Argentina y vuelta a Europa. ¡Todo falso! Para verificarlo, simplemente tomé las cartas de la esposa del escritor a Guillermo de Torre, y ella aparecía plácidamente en Buenos Aires», contó.
[…] Para Alicia María Zorrilla, expresidente de la Academia Argentina de Letras, quien ayudó a buscar el «libro fantasma de Güiraldes», conviene detenerse en el mensaje del papa León XIV para la LX Jornada Mundial de las Comunicaciones Sociales, convencida de «no renunciar al pensamiento propio».
«Simulando voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas», dice el texto […].
Fuente: Press Reader.
ÍNDICE DE NOTICIAS DE ESTE NÚMERO
T. Sánchez de Bustamante 2663
C1425DVA - Buenos Aires
Argentina
Cel. / WhatsApp: (011) 2310 6604
boletindigital@aal.edu.ar
http://www.aal.edu.ar
Atención y venta de publicaciones: www.aal.edu.ar/shop2013/
Para suscribirse al BID, hacer clic aquí
Periodicidad del BID: mensual
ISSN 2250-8600