La IA de Corea del Sur ha sido retirada por comentarios homófobos y racistas
Lee Luda, un chatbot de la IA de Corea del Sur, ha sido retirado de Facebook después de empezar a decir que "realmente odiaba" a las lesbianas porque son "espeluznantes".
El chatbot fue increíblemente popular, según The Guardian, atrayendo a 750.000 usuarios en sus primeros 20 días desde su lanzamiento el 23 de diciembre de 2020. Pero ahora ha sido suspendido después de que empezó a atacar a las minorías.
Andy Murray pide la retirada del nombre del estado Margaret Courts por sus comentarios homófobos
El bateria de Hanson se disculpa por comentarios homófobos, racistas y sexistas
Lee Luda fue desarrollado por el Scatter Lab, con sede en Seúl, y toma la forma de una estudiante universitaria de 20 años que puede chatear con los usuarios a través del mensajero de Facebook.
La puesta en marcha desarrolló sus respuestas naturales analizando 10.000 millones de conversaciones reales entre parejas en la aplicación de mensajería KakaoTalk.
Pero como "aprendió" de los humanos, Lee Luda comenzó a escupir odio homofóbico, capaz y racista.
Los usuarios compartieron capturas de pantalla de sus conversaciones con el chatbot: en una de ellas afirmaba que "odiaba" a los negros, y en otra decía que era "repelida" por lesbianas "espeluznantes".
tw // homofobia, lesbofobia pic.twitter.com/K2tFrkYMIV
- ri¹³♡̶ (@wuju131) Enero 10, 2021
Según The Straits Times, Lee Luda también dijo que "preferiría morir" que tener una discapacidad, y que el movimiento #MeToo era "ignorante". El bot de IA también fue manipulado por algunos usuarios para tener conversaciones sexuales explícitas.
Scatter Lab dijo en una declaración que el chatbot se retiraría hasta que se arreglaran sus "debilidades", y añadió: "Pedimos disculpas por los comentarios discriminatorios contra las minorías. Eso no refleja los pensamientos de nuestra empresa y continuamos las actualizaciones para que tales palabras de discriminación o de odio no se repitan."
Continuó: "Lee Luda es una IA infantil que acaba de empezar a hablar con la gente. Todavía hay mucho que aprender".
Sin embargo, algunos han dicho que el discurso de odio no es simplemente un problema de la IA, y que apunta a cuestiones más amplias en la sociedad surcoreana.
Según Daum, el legislador del Partido de la Justicia, Jang Hye-young, dijo que Lee Luda simplemente "reproducía la discriminación, el odio y los prejuicios contra los débiles y las minorías de nuestra sociedad, como los discapacitados, las personas LGBT+ y los migrantes".
Si bien en Corea del Sur se ha estudiado la posibilidad de promulgar una amplia legislación antidiscriminatoria durante 14 años, se ha avanzado poco.
Jang continuó: "Hemos llegado al acuerdo de que nuestra sociedad debe prohibir sistemáticamente la discriminación y el odio contra los socialmente desfavorecidos y las minorías... Al final, la gente hace IA. Sólo cuando las normas de la gente son correctas, la ética de la IA puede ser correcta".
Añadió: "En la realidad sociocultural cada vez más diversa y avanzada, la 21ª Asamblea Nacional no debe seguir ignorando el deber de establecer una salvaguardia institucional contra la discriminación y el odio".
