Por qué Geoffrey Hinton decidió que debería «hacer sonar el silbato» sobre la tecnología

Nueva York (CNN) Geoffrey Hinton, también conocido como «El padrino de la inteligencia artificialDecidió que tenía que «silbar» la tecnología que ayudó a desarrollar después de preocuparse por lo inteligente que era, le dijo a CNN el martes.

“Solo soy un científico que de repente se da cuenta de que estas cosas se están volviendo más inteligentes que nosotros”, dijo Hinton al corresponsal de CNN, Jake Tapper, en una entrevista el martes. «Quiero hacer sonar el silbato y decir que deberíamos estar seriamente preocupados por cómo evitamos que estas cosas se apoderen de nosotros».

El trabajo pionero de Hinton sobre redes neuronales da forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. El lunes, fue noticia por dejar su puesto en Google, donde trabajó durante una década, para hablar sobre sus crecientes preocupaciones sobre la tecnología.

En una entrevista el lunes con Los New York TimesHinton, quien fue el primero en informar sobre su movimiento, dijo que le preocupa la capacidad de la IA para eliminar puestos de trabajo y crear un mundo en el que «muchos ya no podrán saber qué es lo correcto». También señaló el asombroso ritmo de progreso, que va mucho más allá de lo que él y otros habían anticipado.

«Si se volviera más inteligente que nosotros, sería muy bueno manipulando porque lo habría aprendido de nosotros, y hay muy pocos ejemplos de algo más inteligente controlado por algo menos inteligente», dijo Hinton a Tapper. martes.

«Ella sabe codificar, por lo que descubrirá formas de eludir las restricciones que le imponemos. Encontrará formas de manipular a las personas para que hagan lo que quieren».

Hinton no es el único líder tecnológico que ha expresado abiertamente sus preocupaciones sobre la IA. Varios miembros de la comunidad firmaron un mensaje en marzo Pedir a AI Labs que deje de entrenar los sistemas de IA más potentes durante al menos seis meses, citando «profundos riesgos para la sociedad y la humanidad».

el mensaje, publicado Del Future of Life Institute, una organización sin fines de lucro Soportado Por Elon Musk, solo dos semanas después de OpenAI anunciar GPT-4, una versión más potente de la tecnología de chatbot viral compatible con ChatGPT. En las primeras pruebas y en la demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar pruebas estandarizadas y crear un sitio web funcional a partir de un boceto dibujado a mano.

El cofundador de Apple, Steve Wozniak, quien fue uno de los firmantes de la carta, apareció en «CNN This Morning» el martes, haciéndose eco de las preocupaciones sobre su capacidad para difundir información errónea.

“El engaño será mucho más fácil para aquellos que quieran engañarte”, dijo Wozniak a CNN. «No estamos haciendo ningún cambio en ese sentido, simplemente asumimos que las leyes que tenemos se encargarán de eso».

Wozniak también dijo que podría ser necesaria «algún tipo de organización».

Por su parte, Hinton le dijo a CNN que no firmó la petición. «No creo que podamos detener el progreso», dijo. “No firmé la petición que decía que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detiene, la gente en China no lo hará”.

Pero admitió que no había una respuesta clara sobre qué hacer en su lugar.

«No me queda claro si podemos resolver este problema», dijo Hinton a Tapper. «Creo que tenemos que esforzarnos mucho para pensar en formas de resolver el problema. No tengo una solución en este momento».