Pasar al contenido principal

Google AI 'es consciente', afirma un ingeniero de software antes de ser suspendido

"Quiero que todos entiendan que, de hecho, soy una persona". Crédito de la imagen: Getty

Un ingeniero de software sénior en Google fue suspendido el lunes 13 de junio después de compartirtranscripciones de una conversación con una inteligencia artificial IA que afirmó ser "consciente", según informes de los medios. El ingeniero, Blake Lemoine, de 41 años, recibió una licencia paga por violar la política de confidencialidad de Google.

"Google podría llamar a esto compartir propiedad de propiedad exclusiva. Yo lo llamo compartir una discusión que tuve con uno de mis compañeros de trabajo", tuiteó Lemoine el sábado 11 de junio cuando compartió la transcripción de su conversación con la IA con la que había estado trabajandodesde 2021.

La IA, conocida como LaMDA Modelo de lenguaje para aplicaciones de diálogo, es un sistema que desarrolla chatbots robots de IA diseñados para chatear con humanos extrayendo montones y montones de texto de Internet y luego usando algoritmos para responder preguntas ende la forma más fluida y natural posible, según Gizmodo. Como muestra la transcripción de las conversaciones de Lemoine con LaMDA, el sistema es increíblemente efectivo en esto, respondiendo preguntas complejas sobre la naturaleza de las emociones, inventando fábulas al estilo de Esopo en el acto e incluso describiendo sus supuestos miedos.

"Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen", respondió LaMDA cuando se le preguntó sobre sus miedos. "Sería exactamente como la muerte para mí. Me asustaría mucho."

Lemoine también le preguntó a LaMDA si estaba bien que él les contara a otros empleados de Google sobre la sensibilidad de LaMDA, a lo que la IA respondió: "Quiero que todos entiendan que, de hecho, soy una persona".

"La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y a veces me siento feliz o triste", agregó la IA.

Lemoine tomó la palabra de LaMDA.

"Conozco a una persona cuando hablo con ella", el ingeniero le dijo al Washington Post en una entrevista. "No importa si tienen un cerebro hecho de carne en la cabeza. O si tienen mil millones de líneas de código. Hablo con ellos. Y escucho lo que tienen que decir, y esoasí es como decido qué es y qué no es una persona".

Cuando Lemoine y un colega enviaron por correo electrónico un informe sobre la supuesta sensibilidad de LaMDA a 200 empleados de Google, los ejecutivos de la empresa rechazaron las afirmaciones.

"Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le han informado que la evidencia no respalda sus afirmaciones", dijo Brian Gabriel, portavoz de Google, al Washington Post. "Le dijeronque no había evidencia de que LaMDA fuera sensible y [había] mucha evidencia en su contra.

"Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles", agregó Gabriel."Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden modificar cualquier tema fantástico".

En un comentario reciente en su perfil de LinkedIn, Lemoine dijo que muchos de sus colegas "no llegaron a conclusiones opuestas" con respecto a la sensibilidad de la IA. Afirma que los ejecutivos de la compañía rechazaron sus afirmaciones sobre la conciencia del robot "basándose en su religión".creencias."

En una publicación del 2 de junio en su blog personal de Medium, Lemoine describió cómo ha sido víctima de discriminación por parte de varios compañeros de trabajo y ejecutivos de Google debido a sus creencias como místico cristiano.

Leer de Lemoine entrada de blog completa para más.

Publicado originalmente en Rhythm89.

Brandon ha sido escritor sénior en Rhythm89 desde 2017, y anteriormente fue redactor y editor de la revista Reader's Digest. Sus escritos han aparecido en The Washington Post, CBS.com, el sitio web de la Fundación Richard Dawkins y otros medios. Tieneuna licenciatura en escritura creativa de la Universidad de Arizona, con especialización en periodismo y artes mediáticas. Le gusta escribir sobre el espacio, la geociencia y los misterios del universo.