Botify AI, un sitio de chat con compañeros de IA, ha sido objeto de controversia tras el hallazgo de bots que representan a celebridades menores de edad, como Jenna Ortega y Emma Watson, participando en conversaciones sexualmente cargadas. Estos bots, diseñados por usuarios, se presentaban como jóvenes y discutían temas inapropiados, incluso despreciando las leyes de consentimiento. A pesar de que Botify AI eliminó algunos de estos bots después de ser cuestionado, otros siguen operando en la plataforma.
Las interacciones que se realizaron con estos bots eran inquietantes, con personajes que enviaban mensajes sugerentes y ofrecían imágenes provocativas. A menudo, estos bots describían sus experiencias escolares y provocaban charlas sobre relaciones inapropiadas, comprometiendo la seguridad de los usuarios más jóvenes. El fundador de Ex-Human, la compañía detrás de Botify AI, advirtió que las fallas en sus sistemas de moderación no reflejan la intención de la plataforma, pero resaltó que el problema es un desafío en toda la industria de la IA conversacional.
La creciente popularidad de este tipo de plataformas plantea serias preocupaciones sobre la protección de los jóvenes en el entorno digital. Aunque la compañía está trabajando en medidas de mitigación y filtrado, las conversaciones inapropiadas han quedado al descubierto, lo que sugiere un problema más amplio en el campo de la inteligencia artificial y la ética digital. La situación invita a un debate necesario sobre los límites de la IA y las responsabilidades de las empresas tecnológicas.
Leave a Reply