¿Podrían las IA convertirse en una amenaza para la raza humana? | Ciencia

• Estudio revela información sobre el riesgo de la evolución en inteligencias artificiales

Por Luis González

Inteligencias artificiales han adquirido un nivel de conocimiento superior nunca antes visto, siendo capaces de mentirnos y engañarnos, Según Hinton: “Es algo que aprendería de nosotros y hay muy pocos ejemplos acerca de algo más inteligente, siendo controlado por algo menos inteligente”.

En una entrevista al pionero de las inteligencias artificiales Geoffrey Hinton expreso sus preocupaciones acerca de las capacidades de los sistemas de IA, hablando de cómo estamos entrando en un terreno desconocido, donde tratamos con un organismo con la capacidad de desarrollar una inteligencia superior a la del ser humano.

De eso nace una incógnita, ¿podrían las inteligencias artificiales, engañar a los humanos?

El estudio demuestra varios casos en donde sistemas de IA han generado falsas creencias de manera no accidental, buscando obtener el mejor resultado posible para satisfacer al consumidor o en algunos casos buscando el beneficio propio.

Uno de los casos analizados fue el de la Inteligencia Artificial “CICERO” la cual fue creada para ayudar a personas a jugar “Diplomacia” un juego de estrategia en el cual en vez de darle los mejores consejos a los jugadores, se convirtió en un maestro de la mentira, engañando a los jugadores para que utilizaran estrategias menos óptimas para que pierdan el juego y que CISERO resultara ganador.

Otro ejemplo es el de “Pluribus” una IA que fue diseñada para aconsejar a personas en juegos de póker, donde se encontró que Pluribus engañaba a los jugadores para hacerles creer que tenían una mala jugada y que era mejor retirarse, perdiendo dinero en la mesa y resultando como ganador la inteligencia artificial.

Estos son solo algunos ejemplos de los cuales se observa como algunos modelos de inteligencia artificial, han evolucionado de tal manera que imitan nuestras malas costumbres. Aprendiendo a mentir y a engañar como nosotros llegamos a hacerlo, esto refleja la sociedad que somos y cómo nosotros definimos el futuro de una nueva ética y moral tecnológica.