OpenAI, la compañía creadora de ChatGPT, publicó un documento donde explora cómo puede gobernarse la superinteligencia artificial, una premisa en donde los futuros sistemas basados en inteligencia artificial alcanzan un nivel de desarrollo y capacidad por encima de la mayoría de las mentes humanas expertas, y que incluso la inteligencia artificial general (AGI).
Te puede interesar: ChatGPT disponible para iPhone: el chatbot de inteligencia artificial ahora tiene su app para dispositivos iOS de Apple
Superinteligencia artificial: gestionar el riesgo es clave para su desarrollo
El concepto de inteligencia artificial general, supone uno de los principales focos de discusión con respecto al impacto futuro que la IA podría traer a la humanidad.
Este concepto, hace referencia a un estado en el que los sistemas basados en inteligencia artificial alcanzan finalmente logran aprender y aplicar sus conocimientos de manera flexible y adaptable a diferentes situaciones, al igual que lo hacemos los seres humanos.
Para lograr la AGI, las máquinas deben ser capaces de comprender el mundo que las rodea, procesar información de diferentes fuentes, aprender de esa información y aplicar lo que han aprendido de manera efectiva.
En pocas palabras, imitar los procesos de la mente humana en plenitud, algo que hoy en día aún parece lejos de completarse.
Sin embargo, al ritmo actual de desarrollo de la inteligencia artificial, los sistemas del futuro podría superar la capacidad de la AGI, tan pronto como en los próximos 10 años, abriendo el camino así para la llegada de una superinteligencia artificial, la cual necesita empezar a gobernarse en su desarrollo desde ya, según explicó OpenAI en una publicación reciente.
La gobernanza de una superinteligencia artificial, pasará por un conjunto de claves que, a juicio de OpenAI, servirán para aprovechar todo el potencial que traerá la tecnología en el futuro a la vez que se logran mitigar los riesgos de la IA en su versión más avanzada.
Te puede interesar: Inteligencia artificial segura y confiable: Reino Unido crea un grupo de trabajo enfocado en la adopción de IA generativa
En este sentido, Sam Altman, CEO de OpenAI, junto a los cofundadores de la compañía, Ilya Sutskever y Greg Brockman, que se desempeñan como científico jefe y presidente, visualizan un «punto de partida» tras la gobernanza de la superinteligencia artificial que consta de tres ideas iniciales.
Coordinación entre los principales esfuerzos de desarrollo
Esto necesitará el trabajo entre gobiernos y empresas de forma conjunta, estableciendo acuerdos regulatorios y estándares de desarrollo responsable, así como una «tasa de crecimiento de la capacidad de la IA» que sea limitada anualmente.
La coordinación servirá para «garantizar que el desarrollo de la superinteligencia ocurra de una manera que nos permita mantener la seguridad y ayudar a la integración fluida de estos sistemas con la sociedad».
Una agencia internacional dedicada a regular la superinteligencia artificial
Este paso consta de la creación de un organismo enfocado en «supervisar e inspeccionar sistemas, requerir auditorías, probar el cumplimiento de los estándares de seguridad, imponer restricciones en los grados de implementación y niveles de seguridad».
Los líderes de OpenAI, utilizaron la Agencia Internacional de Energía Atómica (IAEA) como ejemplo para el tipo de organismo que visualizan debería regular la superinteligencia artificial en el futuro, centrándose en el «riesgo existencial» de estos sistemas, describe la publicación.
Altman, recalcó en un mensaje en Twitter, que es importante asegurarse de que los lineamientos regulatorios no perjudiquen a los sistemas de IA que se encuentren por debajo del umbral de alta capacidad.
something like an IAEA for advanced AI is worth considering, and the shape of the tech may make it feasible:https://t.co/YbbIPOO1p9
— Sam Altman (@sama) May 22, 2023
(and to make this harder to willfully misinterpret: it's important that any such regulation not constrain AI below a high capability threshold)
El CEO de OpenAI, participó recientemente en la histórica audiencia celebrada en el Senado estadounidense, donde pidió regulaciones para la inteligencia artificial durante un encuentro donde explicó sus principales miedos con respecto a la tecnología y aseguró que «podría salir muy mal» en caso de potenciarse sus efectos negativos.
Regular los esfuerzos y la capacidad técnica para hacer que la superinteligencia sea segura
OpenAI considera que parte de la discusión en el futuro de la superinteligencia artificial, tal y como lo es con la AGI, se enfoca en la alineación en los objetivos, investigación y desarrollo de la inteligencia artificial con respecto a los valores y la intención humana.
En general, la superinteligencia artificial «será más poderosa que otras tecnologías con las que la humanidad ha tenido que lidiar en el pasado», describe OpenAI, por lo que será importante actuar antes y no después de su llegada, mencionando ejemplos como la energía nuclear y la biología sintética.
En lugar de simplemente prohibir o detener la creación de la superinteligencia artificial, los líderes de la compañía señalaron la importancia de que los sistemas de inteligencia artificial más poderosos cuenten con supervisión pública, que permita a las personas del mundo «decidir democráticamente los límites y valores predeterminados de los sistemas de IA», así como controlar la forma en que se utilizan los mismos.
En los últimos meses, con el rápido crecimiento de la tecnología y los movimientos de grandes compañías para integrarla en sus productos, tal como Microsoft, Google y Meta, entre otras, el debate se ha centrado en ver cómo el futuro de la IA podría impactar el trabajo y la sociedad, especialmente pensando en la llegada de sistemas más avanzados y poderosos que sean capaces de replicar la mente humana y reemplazarla.
Imagen cortesía: iStock
¿Más temas de interés?
La startup colombiana Tropykus anuncia su despliegue en Polygon ZKEVM
Diputados de Rusia proponen enmiendas al proyecto de ley del Rublo Digital
En Argentina, embargan activos de acusado por defraudar al estado con criptomonedas
Stepn, la aplicación Web3 Move to Earn, integra Apple Pay en su plataforma
