Proyecto Q: la IA que pone en riesgo a la humanidad

La inteligencia artificial (IA) es una de las tecnologías más prometedoras del siglo XXI.

Uno de los objetivos más ambiciosos y controvertidos de la IA es el desarrollo de la inteligencia artificial general (IAG). En otras palabras, son estructuras con la capacidad de superar en casi todas las tareas de valor, a los seres humanos.

Algunos expertos consideran que la IAG podría ser el último invento de la humanidad, ya que podría dar lugar a una superinteligencia artificial (SIA) que nos superaría.

Una de las empresas que lidera la investigación y el desarrollo de la IAG es Open AI, una organización sin ánimo de lucro fundada en 2015. Su misión es crear y asegurar que la IA sea beneficiosa para toda la humanidad.

El pasado 19 de noviembre, se anunció el despido temporal de su CEO, Sam Altman. La razón oficial fue un desacuerdo sobre el rumbo de la empresa, pero según filtraciones, la razón detrás es un motivo más oscuro: el proyecto Q.

¿Qué es el proyecto Q?

El proyecto Q es el nombre en clave de un descubrimiento bajo el liderazgo de Altman.

Esto es básicamente un algoritmo matemático, inspirado en el aprendizaje con refuerzo y que usa el concepto abstracto del Q-learning. El mismo busca comprender el significado de una acción para resolver un problema específico y después de este análisis definir la mejor opción para lograr maximizar un beneficio a lo largo del tiempo.

El proyecto Q, también conocido como Q-Star, ha demostrado tener un nivel de razonamiento mucho más avanzado que el de las actuales aplicaciones de IA.

Esto podría tener aplicaciones muy útiles para la investigación científica. Pero, también podría suponer un riesgo para la humanidad si el algoritmo se vuelve demasiado poderoso y autónomo.

Varios investigadores de OpenAI escribieron una carta al consejo de administración alertando sobre los posibles peligros del proyecto Q. Esta carta habría sido uno de los factores clave que condujeron al despido temporal de Altman, quien habría defendido el proyecto.

Con el pasar de los días el resto ya es historia, Altman fue restituido como CEO de Open AI el 23 de noviembre. Sin embargo, se desconoce si el proyecto Q sigue en marcha o ha sido cancelado o modificado.

Inteligencia Artifical

Usted está aqui: Inicio > Proyecto Q: la IA que pone en riesgo a la humanidad