‘Obsceno’: La Nueva Herramienta de Grammarly da Retroalimentación de Escritores Famosos

La nueva función de IA de Grammarly, que proporciona retroalimentación a los usuarios en función de la supuesta perspectiva de “expertos” reconocidos, ha suscitado críticas entre académicos que afirman que la herramienta parece “resucitar” a eruditos para evaluar el trabajo de los usuarios.

Denominada Revisión de Expertos, esta función analiza el texto y genera comentarios enmarcados en la perspectiva de académicos, periodistas y otros especialistas. Muchos de los expertos a los que la herramienta de IA dice imitar, ya no están vivos, un aspecto calificado de “macabro” por una historiadora medieval en BlueSky.

Lanzada en 2009 como una herramienta de escritura y gramática asistida por IA, la empresa matriz de Grammarly se rebautizó como Superhuman en octubre, para reflejar su evolución de un asistente de escritura único a una suite de agentes de productividad impulsados por IA, que incluye herramientas para investigación, programación, correo electrónico y automatización del flujo de trabajo.

Grammarly introdujo la función Revisión de Expertos el verano pasado. A través de la extensión del navegador de Grammarly, los usuarios que se suscriben a la versión Superhuman Go pueden elegir un experto y recibir retroalimentación generada por IA basada en el campo o los trabajos publicados de ese académico.

“Nuestro agente de Revisión de Expertos examina la escritura en la que un usuario está trabajando, ya sea un informe de marketing o un proyecto estudiantil sobre biodiversidad, y utiliza nuestro modelo de lenguaje subyacente para ofrecer contenido experto que puede ayudar al autor del documento a dar forma a su trabajo,” declaró un portavoz de Superhuman a Decrypt. “Los expertos sugeridos dependen de la sustancia de la escritura que se está evaluando.”

Como aclaró el portavoz, el agente de Revisión de Expertos no afirma contar con el respaldo o la participación directa de esos expertos, sino que proporciona “sugerencias inspiradas en las obras de expertos y orienta a los usuarios hacia voces influyentes cuyos trabajos pueden explorar más a fondo.”

“Los expertos en Revisión de Expertos aparecen porque sus trabajos publicados están disponibles públicamente y son ampliamente citados,” indicó el portavoz.

Al probar la función para este artículo, los revisores expertos sugeridos por la aplicación incluyeron a Margaret Sullivan, columnista de medios y exeditora del New York Times, Jack Shafer, exredactor senior de medios en Politico, y Lawrence Lessig, profesor de derecho en Harvard. Otras opciones incluyeron a la investigadora de ética de IA Timnit Gebru y a Helen Nissenbaum, profesora de ciencias de la información en Cornell Tech.

Si bien la función tiene como objetivo ayudar a estudiantes y profesionales a mejorar sus habilidades de escritura, Vanessa Heggie, profesora de historia en la Universidad de Birmingham, cuestionó si los “revisores” dieron su consentimiento antes de que la empresa los utilizara en la aplicación.

“No sé por dónde empezar con esto, pero… Grammarly ahora ofrece ‘revisión de expertos’ de su trabajo por académicos vivos y muertos,” escribió Heggie en LinkedIn. “Sí, muertos—sin el consentimiento explícito de nadie, está creando pequeños LLM basados en su trabajo recuperado y utilizando sus nombres y reputaciones. Obsceno.”

Brielle Harbin, exprofesora asociada de ciencias políticas en la Academia Naval de los Estados Unidos, lo calificó como “un desarrollo extraño y preocupante.”

“Decisiones como esta—especialmente cuando se toman sin contexto, consentimiento o asociación significativa con educadores—riesgan a profundizar el escepticismo sobre las herramientas de IA en la educación superior,” escribió en LinkedIn. “Ironicamente, las decisiones destinadas a acelerar la adopción pueden terminar fortaleciendo la resistencia. La confianza y la colaboración son muy importantes en este momento.”

Grammarly es solo una de las empresas que crean programas de IA diseñados para imitar a personas reales.

En 2023, Meta lanzó una serie de chatbots para su plataforma Meta AI basados en identidades de celebridades, incluyendo a Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka. Ese mismo año, Khan Academy lanzó su tutor de IA Khanmigo, que permite a los estudiantes interactuar en conversaciones con figuras históricas como el primer ministro británico Winston Churchill y la espía de la Guerra Civil estadounidense y conductora del Ferrocarril Subterráneo Harriet Tubman.