Las compañías tecnológicas y desarrolladoras de inteligencia artificial, Google, OpenAI, Microsoft y Anthropic, conformaron un esfuerzo conjunto llamado Frontier Model Forum, el cual se encargará de supervisar el desarrollo seguro y responsable de los modelos de inteligencia artificial que puedan representar un riesgo de seguridad pública.
El anuncio, llega días después de que las cuatro compañías, junto a otras tecnológicas encargadas de liderar el campo IA, se comprometieran con la Casa Blanca en cuanto a diferentes temas relacionados con el desarrollo con responsabilidad de la tecnología hasta la llegada de las regulaciones.
Te puede interesar: Google, Microsoft, OpenAI y otras compañías tecnológicas se comprometen al desarrollo seguro y responsable de la inteligencia artificial
Frontier Model Forum: seguridad y vigilancia para la inteligencia artificial de alto riesgo
En medio del acelerado avance de la inteligencia artificial, la discusión sobre sus riesgos e impacto a gran escala en el mundo y el desarrollo de regulaciones, el Frontier Model Forum llega como un esfuerzo conjunto de Anthropic, Google, Microsoft y OpenAI para garantizar el desarrollo seguro y responsable de los llamados ‘modelos fronterizos de IA‘.
Estos ‘modelos fronterizos de inteligencia artificial’, conocidos en inglés como «Frontier AI», son definidos como «modelos fundacionales altamente capaces que podrían poseer capacidades peligrosas suficientes para plantear riesgos graves para la seguridad pública».
En este sentido, los modelos fundacionales son un tipo de modelo de aprendizaje automático o Machine Learning (ML) aún en desarrollo, que ha sido entrenado en un conjunto de datos masivo de texto y código.
Esto les permite convertirse en poderosas herramientas para generar texto, traducir idiomas, escribir diferentes tipos de contenido creativo, responder a preguntas de manera informativa, entre otros casos de uso.
Te puede interesar: Actores y estudios se enfrentan por el uso de la inteligencia artificial en Hollywood
Los modelos fronterizos de IA, como los explica OpenAI en un paper, requieren una capa adicional de regulaciones diferentes a los modelos de inteligencia artificial convencionales, ya que por su potencial, los modelos con mayor capacidad podrían traer grandes riesgos y peligros que sobrepasen su potencial beneficioso.
El Frontier Model Forum, es un foro que tiene como objetivo avanzar en la investigación de seguridad de la IA, identificar las mejores prácticas de seguridad para los modelos fronterizos, compartir conocimientos con los formuladores de políticas, académicos y otras partes interesadas, y apoyar los esfuerzos para aprovechar la IA para los desafíos sociales, explica el comunicado conjunto compartido por las diferentes compañías.
La membresía estará abierta para cualquier empresa que desarrolle un modelo fronterizo de IA, tal como lo establece en su definición el foro, muestre compromiso por participar y garantizar la creación de estándares de seguridad para dichos modelos.
Te puede interesar: Llama 2, el modelo de inteligencia artificial de Meta y Microsoft, ahora está disponible en código abierto
Para Anna Makanju, vicepresidenta de Asuntos Globales de OpenAI, es necesario que «las empresas de IA, especialmente aquellas que trabajan en los modelos más potentes, se alineen en un terreno común y promuevan prácticas de seguridad reflexivas y adaptables para garantizar que las poderosas herramientas de IA tengan el mayor beneficio posible».
Las empresas crearán un Junta Asesora en los próximos meses, que se encargará de guiar el accionar del mismo, delineando así un estatuto colectivo, gobierno y financiamiento, mientras que buscarán establecer acuerdos institucionales clave y apoyar las iniciativas gubernamentales y multilaterales existentes, como el G7, uniéndose con la industria, la sociedad civil y los esfuerzos de investigación en la comunidad de inteligencia artificial.
Durante su primer año, el Frontier Model Forum trabajará en la promoción de mejores prácticas, el avance de la investigación de seguridad de la IA y la facilitación del intercambio de información entre empresas y gobiernos como puntos clave.
Imagen cortesía: Starline en Freepik
¿Más temas de interés?
Despegar, Inswitch y Binance facilitan el pago de viajes con criptomonedas en Colombia
Arabia Saudita y Hong Kong forjan alianza para pagos y tokenización
OpenAI presenta la aplicación móvil de ChatGPT para Android
Presidente ruso Vladimir Putin firma ley que autoriza la emisión del rublo digital
