Privacidad en ChatGPT: Un llamado de Altman ante falta de marco legal en México Expansión

Un joven atraviesa una crisis emocional. No quiere hablar con familiares ni con amistades. En su lugar, abre ChatGPT y le cuenta todo: sus pensamientos, sus miedos, incluso sus decisiones que podrían afectarlo legalmente. Cree que está en un espacio privado, pero no hay garantía legal que respalde esa idea. Durante una entrevista en el podcast This Past Weekend whith Theo Von, Sam Altman , director general de OpenAI , afirmó que los usuarios comparten temas "personales" con el chatbot. Según Altman, muchos lo usan como terapeuta o consejero. Sin embargo, recalcó que las conversaciones no están protegidas por ninguna figura legal de confidencialidad.

En la conversación con Theo Von, el director advirtió que el sector de la inteligencia artificial no cuenta con un marco legal para proteger las conversaciones sensibles. Comentó que, a diferencia de lo que sucede con abogados, doctores o terapeutas, no existe ninguna ley que respalde la privacidad entre un usuario y un modelo como ChatGPT. "La gente habla de las cosas más personales de sus vidas con ChatGPT. Lo usan como terapeuta, como coach. Si lo hicieras con un abogado o un doctor, hay confidencialidad legal. Esto no existe todavía con la IA" afirmó Altman. Además, señala que esta ausencia de protección puede volverse un problema si alguien se ve involucrado en un proceso judicial. En ese caso, las autoridades podrían solicitar legalmente los registros de esas conversaciones y OpenAI estaría obligado a entregarlos. La empresa creadora del chatbot, busca construir una base legal que permita otorgar a los usuarios un nivel de privacidad similar al que se ofrece en otras profesiones. OpenAI enfrenta actualmente una demanda interpuesta por The New York Times, en la que un tribunal exigió conservar los registros de chats a nivel global, con excepción de de los generados por cuentas empresariales. La empresa apeló la decisión al considerarla excesiva. En México, la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP) establece que el tratamiento de datos personales sensibles requieren conocimiento expreso del titular. Sin embargo, esa protección tiene limites. El artículo 10 de la ley permite que una autoridad competente solicite esos datos sin consentimiento si existe una orden judicial debidamente fundamentada. Esta excepción incluye los casos en los que los datos esté en manos de plataformas digitales. El uso de toda esta información por parte de las autoridades debe regirse por principios de legalidad finalidad y proporcionalidad. Es decir, solo podrá usarse si es estrictamente necesario para un caso. De acuerdo con Botpress, plataforma especializada en la creación de agentes de inteligencia artificial, ChatGPT sí guarda una gran cantidad de datos de sus usuarios. Esto incluye todas las indicaciones, preguntas y consultas que introduces en el sistema. Al igual que otras aplicaciones, ChatGPT también recopila información técnica y se uso, como datos del dispositivo, registros y contenido generado por el usuario. La información que puede recopilar incluye: - Todo el texto que introduces en el chatbot - Datos de geolocalización - Datos de contacto - Cookies del dispositivo y navegador - Datos de registro (como dirección IP) - Información de cuenta