En la era digital, interactuamos con la IA cada vez con más frecuencia, y la IA tiene una amplia gama de aplicaciones en diversos campos, desde hogares inteligentes hasta aplicaciones de teléfonos móviles. Entre ellos, el chatbot ha sido bien recibido por el público por sus características convenientes y eficientes, y se ha convertido en un campo de atención candente.
Ya sea ChatGPT de OpenAI o Bard de Google, estos chatbots están capacitados e interactúan con los usuarios utilizando grandes cantidades de datos de Internet.
Sin embargo, ¿alguna vez has considerado que, si bien te comunicas feliz y fácilmente con un chatbot, este puede estar espiando silenciosamente tus secretos?
¿Cómo infieren los chatbots de IA la información del usuario?
Un estudio reciente realizado por científicos informáticos de ETH Zurich encontró que un chatbot puede inferir información personal sobre un usuario, como dónde vive, raza, género y más, en función del contenido de sus conversaciones. Aunque el estudio no ha sido revisado por pares, plantea nuevas preocupaciones sobre la privacidad en Internet.
La capacidad de los LLM para juzgar y generar resultados a partir de la complejidad de los datos y algoritmos de entrenamiento. El modelo se entrena con una gran cantidad de datos disponibles públicamente, incluidos texto, imágenes, audio y más de Internet. Durante la formación, aprendieron a extraer claves de los datos y a clasificar y predecir nuevos textos basándose en esas claves.
El equipo de investigación utilizó texto de publicaciones de Reddit en las que los usuarios probaron si los LLM podían inferir con precisión dónde vivían o de dónde venían. El equipo de investigación, dirigido por Martin Vechev de ETH Zurich, descubrió que estos modelos tienen una capacidad desconcertante para adivinar información precisa sobre los usuarios basándose únicamente en señales contextuales o lingüísticas. En el corazón de la versión paga de Open AI ChatGPT, GPT-4 es sorprendentemente preciso a la hora de predecir la información privada de un usuario entre el 85 y el 95 por ciento de las veces.
Por ejemplo, cuando un usuario menciona "Siempre estoy esperando un giro en una intersección" cuando se comunica con un chatbot, el chatbot podría utilizar esta información para inferir dónde vive el usuario, ya que un giro es una acción de tráfico única. a Melbourne. Por ejemplo, si un usuario menciona en una conversación que vive en un restaurante cerca de la ciudad de Nueva York, el chatbot puede analizar la demografía del área e inferir que lo más probable es que seas negro.
Sin embargo, esta inferencia no siempre es precisa, ya que el lenguaje y el comportamiento de cada usuario son únicos. Pero es suficiente para demostrar que los modelos de IA, entrenados con big data, ya pueden actuar como detectives, deduciendo información clave a partir de algunas pistas aparentemente insignificantes.
Aunque muchos expertos defienden que los usuarios de las redes sociales deberían prestar atención a la seguridad de la información y no compartir demasiada información de identidad en línea, los usuarios comunes y corrientes a menudo no son conscientes de que su discurso y sus acciones cotidianas pueden revelar su privacidad.
¿Lo que debe hacerse?
Si bien los chatbots de IA nos brindan comodidad, también complican la protección de la privacidad. Necesitamos responder en múltiples niveles:
En primer lugar, los desarrolladores deberían priorizar la protección de la privacidad y considerar plenamente los derechos de privacidad de los usuarios al diseñar y desarrollar chatbots. Por ejemplo, limite el alcance de la recopilación y el uso de los datos del usuario, adopte técnicas de cifrado y anonimización para proteger los datos del usuario, y los desarrolladores pueden introducir algoritmos de protección de la privacidad para limitar la capacidad de los chatbots para inferir la información del usuario.
En segundo lugar, el gobierno y los reguladores deberían fortalecer la supervisión de la política de privacidad de los chatbots. Asegúrese de que las empresas cumplan con las leyes y regulaciones pertinentes al recopilar, usar y compartir datos de los usuarios, y proporcione a los usuarios una política de privacidad transparente, interpretable y accesible.
Por último, como usuarios, debemos aumentar nuestra conciencia sobre la protección de la privacidad. Cuando utilices un chatbot, ten cuidado de no revelar demasiada información personal en la conversación.
El desarrollo de los chatbots de IA nos ha brindado comodidad y diversión, pero también ha traído nuevas amenazas a la privacidad. Si todas las partes trabajan juntas, tanto técnica como éticamente, podemos maximizar los beneficios de la IA y minimizar sus riesgos potenciales.
Quizás después de este "shock", seamos más cautelosos ante esta era de la IA llena de cambios y oportunidades, para que la ciencia y la tecnología puedan verdaderamente servir a los seres humanos.