El chatbot de OpenAI, ChatGPT, vuelve a ser el centro de quejas sobre privacidad en Europa tras inventar mentiras fatales sobre un usuario. La denuncia fue presentada por el grupo de defensa de los derechos de privacidad Noyb, con el apoyo de un hombre noruego que se sorprendi\u00f3 al descubrir que ChatGPT hab\u00eda inventado una historia falsa afirmando que hab\u00eda asesinado a dos ni\u00f1os e intentado matar a un tercero.<\/p>\n\n\n\n
Este incidente pone de relieve los riesgos de que ChatGPT genere informaci\u00f3n inexacta, lo que genera importantes preocupaciones sobre la protecci\u00f3n de datos y las responsabilidades en materia de privacidad. Noyb argumenta que las acciones de ChatGPT violan la Reglamento General de Protecci\u00f3n de Datos (RGPD) de la Uni\u00f3n Europea<\/a><\/strong><\/mark>, especialmente en lo relativo a la exactitud y correcci\u00f3n de los datos personales.<\/p>\n\n\n\n El hombre en cuesti\u00f3n, Arve Hjalmar Holmen, qued\u00f3 desconcertado al conversar con ChatGPT, solicitando a la IA informaci\u00f3n sobre s\u00ed mismo. En lugar de proporcionar detalles precisos, la IA invent\u00f3 una narrativa completamente falsa, afirmando que Holmen hab\u00eda sido condenado por el asesinato de dos hijos y el intento de asesinato de un tercero. Si bien la respuesta de la IA fue parcialmente precisa respecto al n\u00famero y el g\u00e9nero de sus hijos, la historia inventada del asesinato fue profundamente inquietante.<\/p>\n\n\n\n Noyb enfatiza que a pesar de la exactitud parcial de ciertos detalles, como el g\u00e9nero de los ni\u00f1os y la residencia familiar, la falsa acusaci\u00f3n de asesinato caus\u00f3 una angustia emocional significativa a Holmen.<\/p>\n\n\n\n El equipo legal de Noyb argumenta que el RGPD exige claramente que los datos personales sean precisos y que las personas tienen derecho a solicitar correcciones cuando surjan inexactitudes. La breve exenci\u00f3n de responsabilidad incluida por OpenAI, que indica que la IA puede estar equivocada, no los exime de responsabilidad. OpenAI debe asumir la responsabilidad por generar informaci\u00f3n falsa.<\/p>\n\n\n\n Seg\u00fan el RGPD, los responsables del tratamiento de datos (en este caso, OpenAI) deben garantizar que todos los datos personales que procesan sean precisos y que las personas dispongan de un mecanismo claro para corregir errores. Sin embargo, ChatGPT no ofrece actualmente ning\u00fan mecanismo para corregir informaci\u00f3n falsa, lo que podr\u00eda exponer a la empresa a posibles sanciones. De hecho, las infracciones del RGPD pueden resultar en multas de hasta el 41% de los ingresos anuales globales de una empresa.<\/p>\n\n\n\n Este caso ha atra\u00eddo la atenci\u00f3n de los reguladores europeos, cada vez m\u00e1s preocupados por el contenido generado por IA. Noyb ha presentado la denuncia en Noruega, instando a las autoridades reguladoras pertinentes a realizar una investigaci\u00f3n exhaustiva de las pr\u00e1cticas de OpenAI. Otros casos relacionados tambi\u00e9n est\u00e1n en curso. Por ejemplo, el Regulador polaco de la privacidad<\/a><\/strong><\/mark> a\u00fan no ha emitido una respuesta formal al ChatGPT de OpenAI desde septiembre de 2023.<\/p>\n\n\n\n Si bien algunos pa\u00edses han adoptado una estrategia m\u00e1s cautelosa, afirmando que no se apresuran a prohibir por completo las herramientas de IA generativa, los peligros que plantea la informaci\u00f3n falsificada podr\u00edan impulsar a los reguladores a cambiar su postura. OpenAI ya se ha enfrentado a medidas regulatorias en varios pa\u00edses, incluyendo Italia, donde la empresa fue bloqueada temporalmente y multada con 15 millones de euros en 2023 por incumplir plenamente la normativa de protecci\u00f3n de datos.<\/p>\n\n\n\nUn caso de asesinato inventado conmociona a la comunidad local<\/h2>\n\n\n\n
Privacidad y precisi\u00f3n de datos: una dura prueba para el RGPD<\/h2>\n\n\n\n
Los reguladores europeos refuerzan la responsabilidad legal<\/h2>\n\n\n\n
Problemas de fabricaci\u00f3n de IA: de la \u00e9tica a los desaf\u00edos legales<\/h2>\n\n\n\n