Inteligencia Artificial

ChatGPT promueve el plagio e induce a errores en la investigación histórica

/en /por
Gustavo Martínez Solís

ChatGPT promueve el plagio e induce a errores en la investigación histórica

Foro de historiadores

“Asistente de lenguaje puede afectar la integridad académica, puede darnos datos fraudulentos e inducir a la deshonestidad. Indica el origen de nada y esto es así a propósito. Siempre es plagio”, concluyen historiadores.

26 abril de 2023

El modelo de lenguaje inteligente de ChatGPT puede resultar impreciso e inducir al plagio y a errores, debido a que no indica las fuentes o el origen de la información a la hora de realizar investigación histórica, así lo concluyeron expertos e investigadores de la Escuela de Historia de la Universidad de Costa Rica.

Las declaraciones se compartieron en una mesa redonda entre los historiadores David Chavarría Camacho, Alejandro Bonilla Castro y Alejandra Boza Villarreal, el pasado jueves 20 de abril, en el auditorio del CIMAR, de la Ciudad de la Investigación de la UCR.

El ChatGPT, el cual es un asistente de lenguaje basado en Inteligencia Artificial (AI), funciona mediante el procesamiento de lenguaje natural con una interacción humano-computadora, el cual recibe una orden escrita por parte del usuario y este procede a buscar y dar una respuesta, a partir de la información almacenada, de la cual se desconoce su origen y el propósito de registro.

Publicado originalmente en

Ir al artículo original

Este chatbot funciona bajo un sistema de algoritmos (instrucciones o programación) de “caja negra”, con dos entradas de texto (Input) y una salida. La primer entrada del GPT recibe un corpus de texto grande (banco de información), en la segunda entrada se reciben las consultas y órdenes de usuarios; mientras que, en la salida (Output) se puede generar “nuevo” texto redactado de forma coherente o relevante, es decir, la respuesta a la solicitud del usuario.

“Cuando vemos un contenido de ChatGPT es un ‘plagio’. Nos va a entregar un contenido muy bien escrito, pero este copia o parafrasea información que ya existe, sin atribuir la fuente de ese conocimiento. No podemos saber de dónde salieron estos datos”, comentaron los expertos.

“El texto que genera no es confiable, ChatGPT no razona, no valora la validez de la evidencia que nos está presentando. Repite los sesgos de sus datos y, además, intencionalmente puede inducirlo a hacer eso y, lo peor, es que podemos tener a creerle, porque escribe bonito”, manifestó la docente e investigadora, Alejandra Boza.

Las personas panelistas sostienen que, cuanto más extensa o específica sea la solicitud del usuario, el asistente dará respuestas que, en apariencia, serían creíbles, pero podría tratarse de datos erróneos o inexistentes en la web, como, por ejemplo, dar un listado de referencias bibliográficas, sobre autores o investigaciones inexistentes.

"Los expertos señalan que el asistente, por su naturaleza de almacenamiento y formas de otorgar una respuesta, podría incurrir también en actividades fraudulentas y alejadas de los principios éticos en la investigación histórica."

“La información producida por el chat es una síntesis de conocimientos adquiridos, pero que no presentan absolutamente nada original. Cada vez que nosotros le hagamos una pregunta al ChatGPT nos va a responder de una manera diferente, realiza una nueva redacción de las mismas ideas”, manifestó el investigador Alejandro Bonilla.

El académico enfatizó en que para el área de la historia, esta inteligencia artificial dista de lo que puede ser considerado una fuente de investigación, por los constantes errores y la forma de operar y desprender la información solicitada.

“A los ojos de la investigación histórica, ChatGPT no es una fuente. Porque para nosotros, al juzgar qué es una fuente, recurrimos al análisis documental, que está compuesto por operaciones críticas de fuentes, donde determinamos las intenciones de dicha fuente”, añadió Bonilla.

El investigador manifestó que el chat es poco exacto y genera desconfianza, al acomodar de la “mejor manera y estadísticamente” las palabras para dar una respuesta “coherente”. “Este (ChatGPT) ocasionalmente puede entregar información incorrecta o errónea y puede producir contenido sesgado o ofensivo. La herramienta no tiene el objetivo de generar un consejo o recomendación”, afirmó a partir de la experiencia con las advertencias del sistema.

Asimismo, el historiador expone que ChatGPT como Inteligencia Artificial es “limitado”, poco fiable y carece de razonamiento. En el sentido que puede destacar con una correcta expresión escrita, pero en el tema de originalidad en historia, “esta parte de una experiencia empírica, un carácter inédito, que seduce la teoría, para poder interpretar los datos y es un conocimiento razonado y, en este sentido, la inteligencia artificial no razona”.

De acuerdo con el historiador e investigador David Chavarría Camacho, el ChatGPT es una de las tecnologías de inteligencia artificial más complejas y de gran escala de la actualidad. Sin embargo, se le ha asignado al asistente el término de “stochastic parrot” o el “loro estocástico», debido a que, en el momento que recibe instrucciones muy específicas o complejas de asimilar, opta por repetir palabras o “cosas” sin sentido.

 

Los expertos señalan que el asistente, por su naturaleza de almacenamiento y formas de otorgar una respuesta, podría incurrir también en actividades fraudulentas y alejadas de los principios éticos en la investigación histórica.

“El sistema de ChatGPT es de acceso abierto, pero no es de código abierto. Es decir, no sabemos cómo funcionan los algoritmos que hacen todos estos trabajos de dar una respuesta coherente. Es importante porque es un problema de transparencia que se repite constantemente, que se repite en la discusiones sobre los potenciales peligros de este tipo de tecnología”, aseguró la historiadora Alejandra Boza.

ChatGPT en las aulas de historia

Los expertos pronosticaron una serie de escenarios en los cuales este chat inteligente puede insertarse de manera positiva como acompañamiento o una fuente secundaria a las labores que realizan las y los estudiantes. De forma que se aproveche esta tecnología que catalogan como “inminente” y en “crecimiento” a la labor académica y de investigación.

“Hoy en día no hay forma válida de asegurar que el texto que alguien presente fue escrito por inteligencia artificial; si bien existen varias aplicaciones, pero no son las más funcionales detectándolo «, afirmó la investigadora Boza..

La experta visualiza oportunidades como es la utilización del chat a partir de texto propio, es decir, como un “tutor de redacción”. Debido a que ChatGPT “escribe muy bien” acomodando la información de manera coherente a partir de estadísticas.

“Podemos ver grandes beneficios para personas con condiciones de dislexia, que no sean hablantes nativos de la lengua o que tengan una formación previa deficiente y con problemas de redacción. El uso de esta herramienta podría facilitar su producción intelectual, sin descuidar que no existen políticas claras de autoría para esos textos generados”, aclaró Boza.

Por último, la académica considera que es necesario integrar esta tecnología en las clases de historia, debido a que en la actualidad los algoritmos se encuentran en todas partes y constituye un riesgo desconocer sobre los mismos y sus usos, sumado a que representan una “habilidad general para la vida”.

“Podemos practicar cómo preguntarle a ChatGPT de manera efectiva, verificar y hacer una lectura crítica de la respuesta (output). Todas esas son habilidades del pensamiento crítico que vale la pena tener presentes. Para enseñarlo, hay que saber usarlo”, concluyó.

Gustavo Martínez Solís
Semanario Universidad
tavoms93@gmail.com

Voz experta: Guillermo Gabb, un mediador intercultural bribri olvidado

/en /por
Carlos Sánchez Avendaño y Alejandra Boza Villareal

Voz experta: Guillermo Gabb, un mediador intercultural bribri olvidado

Jornadas de investigación del Ciicla

El caso de Gabb nos recuerda que Talamanca y, en general, muchos de los territorios que hoy en día forman la República de Costa Rica, han sido multilingües y multiculturales por centurias, aunque nos siga costando reconocerlo

30 marzo 2023

En la Costa Rica de finales del siglo XIX e inicios del XX muchas personas indígenas colaboraron en la recopilación de información sobre sus culturas y lenguas. La mayoría de ellas se mantienen anónimas, pues los individuos no indígenas con quienes colaboraron no consignaron sus nombres. Sin embargo, conocemos de casos como los de Tomás Otárola, Florencia y Gregoria Lyon, John Taylor y Juan Salas para Talamanca; Francisco Navas para Térraba y Santiago para la zona de Guatuso. Sus nombres en español o inglés no deben hacernos dudar de su pertenencia a un pueblo indígena, pues en esa época no era inusual que tomaran o se les dieran nombres foráneos.

Hubo uno de estos indígenas que fue el más reconocido en su época entre las personas del Valle Central y múltiples viajeros y científicos extranjeros. Se llamaba Guillermo Gabb o William Gabb. Este no era el William Gabb originario de Estados Unidos que visitó Talamanca a inicios de los años 1870 para hacer estudios geológicos. Guillermo Gabb o simplemente Gabb, como nos referiremos a él aquí, era su hijo, nacido en Talamanca de madre bribri.

En el centro: Guillermo Gabb en Talamanca en 1899.

Publicado originalmente en

Ir al artículo original

Podría pensarse que tener un padre extranjero lo hacía “menos” indígena, pero no es así. Debido a que su madre era una mujer bribri, llamada Florencia, Gabb pertenecía a un clan (un grupo de parientes que se consideran descendientes de un ancestro común). En el pueblo bribri, esta pertenencia clánica se hereda por línea materna todavía el día de hoy. Si una mujer bribri tiene clan, sus hijos e hijas forman parte de ese mismo clan, independientemente de quién sea el padre.

Pertenecer a un clan es uno de los criterios clave, aunque no el único, para ser reconocido como parte del pueblo bribri. Gabb aprendió el bribri como su lengua nativa, aunque con el paso del tiempo dominó el inglés y el español. Es más, siendo adulto demostró que se consideraba parte del mundo indígena, pues asumió un puesto ritual de rango medio conocido como bicacra (‘bikákala’ en bribri), cuyas funciones eran parecidas a la de un maestro de ceremonias. Para llegar a ser reconocido como bicacra era necesario pasar por un intenso proceso de aprendizaje de la cultura bribri, que iniciaba normalmente desde la infancia.

Cuando tenía cerca de once o doce años, Gabb se fue a vivir al Valle Central, porque había recibido una beca del Gobierno de Costa Rica para estudiar (en su época no había ni escuelas ni colegios en Talamanca). Después de unos años tomó la decisión de regresar a su tierra natal y, como decía un josefino amigo suyo, se convirtió “en un indio más indio que los demás”. Vivió allí el resto de su vida, se casó con una bribri llamada Aurelia Sánchez y tuvo hijos e hijas.

Gabb llegó a ser muy conocido fuera del mundo indígena. Tenía habilidades y conocimientos que lo hacían llamativo para personas del Valle Central o de otras regiones del mundo que estaban interesadas en saber más sobre cómo eran Talamanca y su gente. En particular, era muy importante que manejaba varios idiomas y conocía asuntos de otras culturas.

Gabb creció con su tía materna Gregoria, que era bribri, y con su tío político, que era un comerciante estadounidense llamado John H. Lyon. Gabb se tomó muy en serio su herencia indígena, como ya lo comentamos. Además, de su tío político seguramente aprendió inglés y otros elementos de la visión de mundo de un estadounidense de esa época. Cuando vivió en el Valle Central perfeccionó su dominio del español, aprendió a escribir y se familiarizó con la cultura de esa región. Luego regresó a Talamanca.

Conocer otros idiomas y otras culturas le dio una excepcional capacidad para comunicar datos sobre su idioma y su cultura a gente de otros lugares. Él podía explicar esos temas usando conceptos y referentes que resultaban familiares para esos foráneos. Llevar a cabo dicha traducción cultural era una labor intelectual por mérito propio, que lo hizo un excelente mediador intercultural. Sumémosle a eso que conocía a muchas personas en Talamanca que podían darle buenos datos y, además, le gustaban las actividades intelectuales tales como la escritura y la lectura de libros y de prensa.

A través de su vida Gabb brindó información de gran calidad a todo tipo de personas: misioneros católicos y protestantes, funcionarios estatales costarricenses, investigadores nacionales e internacionales. También les sirvió como traductor a indígenas que no hablaban español o inglés y lo necesitaban para comerciar o hacer trámites, entre otras actividades. Es importante notar que él no fue un simple comunicador de información, sino que llevó a cabo sus propios aportes intelectuales.

Lamentablemente, no toda la obra de Gabb ha llegado hasta nuestros días, o por lo menos no se ha encontrado rastro de todo aquello que, según se dice, escribió o tenía la intención de escribir. Así, por ejemplo, a inicios del siglo XX, León Fernández Guardia (hermano menor del famoso Ricardo Fernández Guardia) aseguraba que Gabb había compilado un diccionario trilingüe español-bribri-brunca, el cual se habría perdido tras su muerte.

Este mismo intelectual afirmaba en otra nota periodística que Gabb le había prometido corregir y ampliar la información acerca de diversos aspectos de la cultura bribri, pero no consta en ninguna parte que haya llegado a hacerlo. Del mismo modo, el misionero alemán Vicente Krautwig afirmó, a finales del siglo XIX, que Gabb le ayudó a revisar y corregir la doctrina cristiana que redactó en cabécar, pero no se sabe nada del paradero de este texto y, en todo caso, aunque lo tuviéramos, posiblemente resultaría difícil discernir cuánto de la composición de la obra se le debe al intelectual bribri.

Básicamente, entonces, conocemos de sus capacidades como traductor, consultor lingüístico y, más en general, como persona que reflexionaba concienzudamente sobre su lengua y su cultura por dos textos, ninguno de los cuales consigna explícitamente su autoría.

El primero de ellos consiste en la descripción más detallada de la lengua bribri aparecida en el siglo XIX: Die Sprache der Bribri-Indianer in Costa Rica (“La lengua de los indios bribris en Costa Rica”), publicada en alemán en 1898 por el erudito suizo Henri Pittier. Pittier reconoció que el diccionario que incluye en su obra se lo debía, en gran medida, a Gabb. También comentó que la conjugación de los verbos en bribri la obtuvo a partir del trabajo con este y con otro colaborador bribri (John Taylor) y afirmó que Gabb le escribió “frases” en bribri, con lo cual dejó constancia de que Gabb podía escribir su lengua, aunque, a su parecer, dichas frases estaban construidas de forma muy apegada al español.

"Lamentablemente, no toda la obra de Gabb ha llegado hasta nuestros días, o por lo menos no se ha encontrado rastro de todo aquello que, según se dice, escribió o tenía la intención de escribir."

Ha de destacarse que Pittier incluyó el nombre en su libro de estos dos indígenas con quienes trabajó, algo que no ocurre en las obras de quienes lo precedieron, como William Gabb padre y monseñor Bernardo Augusto Thiel. No obstante, en la obra de Pittier no figura con detalle cuál información proporcionó Gabb (pese a ello, sabemos, por ejemplo, que los datos que se incluyen acerca de los clanes bribris de la época se deben a Gabb, lo cual consignó el autor suizo en una publicación anterior a la de 1898, pero no en esta).

Además de ello, el hecho de que el libro de Pittier se haya publicado en alemán y no se haya traducido al español hasta hace poco sin duda ha incidido no solo en su poca divulgación en nuestro medio, sino también en el desconocimiento del aporte de Gabb como consultor lingüístico.

El segundo texto que nos concierne es obra en su totalidad (o, al menos, en su gran mayoría) de Guillermo Gabb. Tampoco se especifica su autoría, pero tenemos certeza de que él fue quien lo escribió gracias a que así lo hacen constar distintas fuentes, como el misionero protestante español Francisco de Paula Castells, el investigador alemán Walter Lehmann y el misionero protestante estadounidense Raymond Schlabach. Se trata del Evangelio según san Juan, traducción del español al bribri de dicho evangelio. La traducción fue comisionada por la Sociedad Bíblica Británica e Internacional, una organización protestante, bajo el cuidado del ya mencionado Castells.

Más allá del interés en esta obra desde una perspectiva religiosa, su relevancia radica en que se trata con toda seguridad del primer texto escrito por un hablante nativo del bribri, en una época en que esta lengua no se había grafizado (es decir, no se había llevado al formato escrito) más que para propósitos de documentación lingüística y etnográfica, pero no para servir como recurso para la propia comunidad indígena.

Portada del Evangelio según san Juan, traducido al bribri y publicado en Londres en 1905. Ejemplar facilitado por María Eugenia Bozzoli.

Con esto no queremos dar a entender que hemos de obviar que el fin último de quienes financiaron la traducción consistía en evangelizar y convertir al cristianismo, con ayuda de este texto, a la población de habla bribri, sino que deseamos subrayar que su elaboración trasciende este propósito, sea que quienes participaron en el proyecto hayan sido conscientes de ello o no.

Además de figurar como muestra de la forma como un hablante nativo del bribri la grafiza por primera vez, echando mano de las habilidades de escritura y lectura que había aprendido en su escolarización, desarrollada en español (y quizás en inglés y otros idiomas), el Evangelio representa el testimonio antiguo más extenso con que contamos de la lengua bribri de finales del siglo XIX e inicios del siglo XX. ¿Por qué esto resulta tan importante? Pues porque los datos más antiguos del bribri se los debemos a investigadores como el estadounidense William Gabb, el alemán Bernardo Augusto Thiel, el costarricense Carlos Gagini o el suizo Henri Pittier, ninguno de los cuales habría alcanzado un conocimiento verdaderamente profundo de la estructura de este idioma, ya sea porque carecían de las herramientas técnicas para emprender tal proyecto a cabalidad o porque no se interesaron más que por realizar descripciones muy someras.

Así las cosas, en el Evangelio según san Juan traducido al bribri por Gabb encontramos a un hablante nativo del bribri desplegando toda su competencia lingüística para llevar a buen término el proyecto de traducción, lo cual implica que en la obra se hallan muestras de mucho vocabulario no documentado por los otros autores, así como de innumerables fenómenos de pronunciación y de gramática que a ellos se les escaparon.

El Evangelio, además, se aparta del formato de recopilación de palabras y oraciones descontextualizadas que se aprecia en la obra de los otros autores, pues lo que hallamos en este caso es un texto, con toda la complejidad que ello implica, así como con toda la riqueza de información acerca de cómo se emplea la gramática y el vocabulario del bribri de modo cohesionado y con la finalidad de cumplir un propósito comunicativo concreto. Por consiguiente, para la investigación lingüística sobre la lengua bribri de finales del siglo XIX e inicios del XX, el valor de esta obra no puede dejar de reconocerse.

Por si esto fuera poco, el Evangelio según san Juan nos revela la competencia bicultural de Gabb. Apuntamos párrafos atrás que Gabb actuó como la fuente principal de muchos investigadores, viajeros y misioneros, pero que pocas veces ha quedado constancia fiel de ello y que aparentemente mucha de la información se ha perdido.

Empero, en su traducción Gabb nos muestra que conocía perfectamente el mundo talamanqueño de su época (incluyendo aspectos de la religión tradicional del pueblo bribri) así como el mundo hispanocristiano (judeo-cristiano, en gran medida, pero conceptualizado por medio del español). Constantemente encontramos huellas de la cultura material e inmaterial talamanqueña en el texto, como evidencia del esfuerzo de Gabb por traducir y adaptar conceptos de un texto bíblico que eran tan ajenos a la cultura bribri, con lo cual se pueden apreciar sus dotes de traductor intercultural.

En 1906 Gabb tuvo en sus manos su traducción, que había sido publicada en Londres, Inglaterra, un año antes. Gabb murió en 1911 y, a pesar de haber sido tan conocido en su época, muy pronto cayó en el olvido. Lo mismo sucedió con su traducción, que, por motivos diversos, parece haber circulado muy poco. No es sino hasta ahora que la obra se ha empezado a analizar con la seriedad y profundidad que merece.

El caso de Gabb nos recuerda que Talamanca, y en general muchos de los territorios que hoy en día forman la república de Costa Rica, han sido multilingües y multiculturales por centurias, aunque nos siga costando reconocerlo. También patentiza que muchas personas indígenas han desempeñado un papel activo como mediadores interculturales desde hace siglos.

Para saber más:

Están en preparación dos volúmenes de una serie titulada “La traducción de Guillermo Gabb del Evangelio según san Juanal bribri y su contexto de producción”. Serán publicados en la serie digital Tsirík, del CIICLA (http://www.ciicla.ucr.ac.cr/node/763)

También ver: “Voz experta: Bribris, cabécares y afrocaribeños en la formación de parejas interétnicas en Talamanca, 1870-1910” por Javier Sánchez Mora (https://www.ucr.ac.cr/noticias/2023/02/06/voz-experta-bribris-cabecares-y-afrocaribenos-en-la-formacion-de-parejas-interetnicas-en-talamanca-1870-1910.html)

Carlos Sánchez Avendaño
Docente de la Escuela de Filología, Lingüística y Literatura e investigador del Centro de Investigación en Identidad y Cultura Latinoamericanas (Ciicla)
carlos.sanchezavendano@ucr.ac.cr
 
Alejandra Boza Villarreal
Docente de la Escuela de Historia e investigadora del Centro de Investigación en Identidad y Cultura Latinoamericanas (Ciicla)
alejandra.bozavillarreal@ucr.ac.cr