Diferencias

Muestra las diferencias entre dos versiones de la página.

--- loro_estocastico [2025/10/19 17:54] – mauro
+++ loro_estocastico [2025/10/20 08:24] (actual) – mauro
@@ Línea 1: / Línea 1: @@
-El término *loro estocástico* surge como una metáfora crítica para describir el funcionamiento de modelos de lenguaje como ChatGPT. Popularizado por Emily M. Bender, Timnit Gebru y colegas en su artículo *On the Dangers of Stochastic Parrots* (2021), el concepto fue retomado por Gupta, Atef, Mills y Bali (2024) para analizar cómo esta imagen revela las limitaciones cognitivas y éticas de la inteligencia artificial. Un loro estocástico no comprende lo que dice: simplemente repite patrones de lenguaje que ha aprendido de sus fuentes. De forma análoga, un modelo de IA produce respuestas coherentes sin poseer entendimiento, conciencia o intención. La metáfora advierte sobre la **ilusión de comprensión**, donde el público confunde fluidez lingüística con inteligencia genuina.
+El término loro estocástico surge como una metáfora crítica para describir el funcionamiento de modelos de lenguaje como ChatGPT. Popularizado por Emily M. Bender, Timnit Gebru y colegas en su artículo "On the Dangers of Stochastic Parrots" (2021), el concepto fue retomado por Gupta, Atef, Mills y Bali (2024) para analizar cómo esta imagen revela las limitaciones cognitivas y éticas de la inteligencia artificial. Un loro estocástico no comprende lo que dice: simplemente repite patrones de lenguaje que ha aprendido de sus fuentes. De forma análoga, un modelo de IA produce respuestas coherentes sin poseer entendimiento, conciencia o intención. La metáfora advierte sobre la **ilusión de comprensión**, donde el público confunde fluidez lingüística con inteligencia genuina.
-A diferencia de la idea de un “asistente inteligente”, el *loro estocástico* enfatiza la naturaleza puramente estadística del modelo. Su “inteligencia” reside en la probabilidad de secuencias de palabras, no en la comprensión de significados. Por eso, al interactuar con estas herramientas, el riesgo no es solo técnico sino ético: podemos atribuirles agencia, empatía o autoridad epistémica que no poseen. Gupta et al. (2024) señalan que esta antropomorfización puede tener consecuencias sociales graves, como confiar en información errónea o reforzar desigualdades discursivas.
+A diferencia de la idea de un “asistente inteligente”, el loro estocástico enfatiza la naturaleza puramente estadística del modelo. Su “inteligencia” reside en la probabilidad de secuencias de palabras, no en la comprensión de significados. Por eso, al interactuar con estas herramientas, el riesgo no es solo técnico sino ético: podemos atribuirles agencia, empatía o autoridad epistémica que no poseen. Gupta et al. (2024) señalan que esta antropomorfización puede tener consecuencias sociales graves, como confiar en información errónea o reforzar desigualdades discursivas.
-Un ejemplo ilustrativo es el uso de ChatGPT en la educación. Un estudiante puede recibir una respuesta convincente pero incorrecta y asumir que proviene de un “experto”. El modelo ha repetido, como un loro, frases estadísticamente plausibles, pero sin verificar su veracidad. En este sentido, el *loro estocástico* sirve como advertencia para promover una **alfabetización crítica en IA**: enseñar a los usuarios a distinguir entre apariencia de inteligencia y comprensión real.
+Un ejemplo ilustrativo es el uso de ChatGPT en la educación. Un estudiante puede recibir una respuesta convincente pero incorrecta y asumir que proviene de un “experto”. El modelo ha repetido, como un loro, frases estadísticamente plausibles, pero sin verificar su veracidad. En este sentido, el loro estocástico sirve como advertencia para promover una **alfabetización crítica en IA**: enseñar a los usuarios a distinguir entre apariencia de inteligencia y comprensión real.
-En recursos abiertos, esta metáfora ha sido ampliamente discutida. El video de **Computerphile** “How ChatGPT *actually* works” explica de manera accesible el funcionamiento probabilístico de estos modelos y por qué no “entienden” sus respuestas. De igual forma, el artículo de **The New Yorker**, *ChatGPT is a blurry JPEG of the web*, amplía la crítica mostrando cómo estos sistemas comprimen información existente sin crear conocimiento nuevo.
+En recursos abiertos, esta metáfora ha sido ampliamente discutida. El video de **Computerphile** “How ChatGPT actually works” explica de manera accesible el funcionamiento probabilístico de estos modelos y por qué no “entienden” sus respuestas. De igual forma, el artículo de **The New Yorker**, ChatGPT is a blurry JPEG of the web, amplía la crítica mostrando cómo estos sistemas comprimen información existente sin crear conocimiento nuevo.
-La relevancia del concepto para nuestra sesión es clara: el *loro estocástico* representa el desafío ético de interactuar con tecnologías que hablan como humanos, pero sin comprender. Comprender esta metáfora nos obliga a repensar qué significa realmente “entender”, “comunicar” y “enseñar” en la era de la inteligencia artificial.
+La relevancia del concepto para nuestra sesión es clara: el loro estocástico representa el desafío ético de interactuar con tecnologías que hablan como humanos, pero sin comprender. Comprender esta metáfora nos obliga a repensar qué significa realmente “entender”, “comunicar” y “enseñar” en la era de la inteligencia artificial.
 ---
 **Referencias**
-Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). *On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?* Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. //
+- Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). *On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?* Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.
 (https://dl.acm.org/doi/10.1145/3442188.3445922)
-Gupta, A., Atef, Y., Mills, A., & Bali, M. (2024). *Assistant, Parrot, or Colonizing Loudspeaker? ChatGPT Metaphors for Developing Critical AI Literacies*. *Open Praxis, 16*(1), 37–53. (https://doi.org/10.55982/openpraxis.16.1.631)
+- Gupta, A., Atef, Y., Mills, A., & Bali, M. (2024). *Assistant, Parrot, or Colonizing Loudspeaker? ChatGPT Metaphors for Developing Critical AI Literacies*. *Open Praxis, 16*(1), 37–53. (https://doi.org/10.55982/openpraxis.16.1.631)
 **Recursos abiertos**
-* Hill, K. (2023). ChatGPT Explained Completely. [Video].
+- Hill, K. (2023). **ChatGPT Explained Completely.**
 YouTube. https://www.youtube.com/watch?v=-4Oso9-9KTQ
-Roose, K. (2023). ChatGPT is a blurry JPEG of the web. The New Yorker. https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web
-* Roose, K. (2023). *ChatGPT is a blurry JPEG of the web*. *The New Yorker*. [https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web](https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web)
+- Roose, K. (2023). **ChatGPT is a blurry JPEG of the web.** The New Yorker. [https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web](https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web)