OpenAI bajo escrutinio: Queja de privacidad en Austria y posibles violaciones de la ley de la UE
El gigante de la inteligencia artificial OpenAI se encuentra en el centro de una controversia después de que el grupo de derechos de datos de Austria Noyb presentara una queja por privacidad contra su chatbot ChatGPT. La acusación se basa en la presunta divulgación de información falsa por parte del chatbot, lo que podría estar violando las regulaciones de privacidad de la Unión Europea.
Allegaciones y respuestas de OpenAI
El 29 de abril, Noyb presentó la queja argumentando que OpenAI no había corregido la información incorrecta proporcionada por su chatbot de IA generativo. Según el grupo, un demandante no identificado recibió repetidamente información errónea al solicitar datos sobre sí mismo al chatbot de OpenAI.
OpenAI supuestamente rechazó la solicitud del demandante para corregir o eliminar los datos incorrectos, alegando que no era posible hacerlo. Además, la empresa se negó a revelar información sobre los datos de entrenamiento y su origen.
Maartje de Graaf, abogada de protección de datos de Noyb, comentó sobre el caso, enfatizando que los sistemas de IA deben producir resultados precisos y transparentes para cumplir con la ley. Noyb ha llevado la queja a la autoridad de protección de datos de Austria, solicitando una investigación sobre el procesamiento de datos de OpenAI y la garantía de la precisión de los datos personales que manejan sus modelos de lenguaje.
Antecedentes de problemas con Chatbots en Europa
Esta no es la primera vez que los chatbots enfrentan críticas en Europa. En diciembre de 2023, un estudio reveló que el chatbot de IA de Microsoft Bing, rebautizado como Copilot, proporcionaba información inexacta sobre elecciones locales en Alemania y Suiza. Otro incidente involucró al chatbot de IA Gemini de Google, que generaba imágenes incorrectas. Estos casos resaltan la importancia de la precisión y la transparencia en el procesamiento de datos por parte de los sistemas de IA, especialmente en el contexto de la privacidad y las regulaciones de la UE.