Recientemente, Reuters reveló que China ha utilizado una versión antigua del modelo de IA de Meta, Llama, para desarrollar un chatbot con aplicaciones militares. Este descubrimiento ha generado una gran polémica y ha cambiado las reglas del juego, así como la filosofía de Meta en este sector.
China y el Uso Militar de la IA de Meta
Instituciones de investigación chinas ligadas al Ejército de Liberación Popular han utilizado el modelo de IA públicamente disponible de Meta, Llama, para crear un chatbot con aplicaciones militares llamado ChatBIT. Los investigadores aprovecharon una versión previa del modelo actual en su versión 13B (13.000 millones de parámetros) e incorporaron sus propios parámetros para desarrollar esta herramienta militar.
ChatBIT: Un Asistente Militar
Este modelo chino fue pulido y «optimizado para el diálogo y para dar respuesta a preguntas en el campo militar», según el estudio citado en Reuters y publicado por los investigadores. Según sus pruebas, ChatBIT era capaz de mejorar el comportamiento de otros modelos que tenían más o menos el 90% de las capacidades de GPT-4.
Uso No Autorizado
El descubrimiento de ChatBIT pronto generó preocupación entre los responsables de Meta, quienes en un comunicado proporcionado a Reuters declararon que el uso de Llama para aplicaciones militares por parte de China «no está autorizado».
La Reacción de Meta
Las políticas de uso de Llama prohíben el uso de su LLM para «aplicaciones militares o nucleares». Tras descubrir lo que había hecho China, la compañía anunció un cambio en esos términos en su blog oficial. Bajo las nuevas políticas, permite que su modelo de IA se pueda usar para aplicaciones militares, pero no en China. Solo habilita esa opción para agencias y empresas de Estados Unidos, así como organismos similares en Reino Unido, Canadá, Australia y Nueva Zelanda, según Bloomberg.
La IA de Meta: Solo para EE.UU. y sus Aliados
En ese anuncio oficial, los responsables de Meta indicaban que estos usos «responsables y éticos» permitirían apoyar «la prosperidad y seguridad de los Estados Unidos». Entre las empresas que podrán utilizar la tecnología de Meta con aplicaciones militares están Amazon Web Services, Anduril, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI y Snowflake, indican en The Guardian.
El Debate de la IA con Orientación Militar
La aplicación de modelos de IA en el ámbito militar y de la defensa siempre ha sido vista con mucha preocupación. En 2018, Google tuvo que abandonar su Project Maven, una iniciativa que planteaba el uso de inteligencia artificial para el control de los drones militares del gobierno de los EE.UU.
Polémica, Preocupación y Regulación
La decisión de Meta no está exenta de polémica, pero este tipo de aplicación parecía inevitable: ejércitos y agencias de inteligencia y defensa en todo el mundo llevan años utilizando soluciones Open Source para su operativa, y parecía inevitable que algo así ocurriera con modelos como el de Meta.
Reflexión Crítica
El uso de la IA para fines militares plantea serias preguntas éticas y de seguridad. ¿Cómo se puede garantizar que estas tecnologías no se utilicen de manera irresponsable? ¿Qué implicaciones tiene para la seguridad global y la privacidad de los ciudadanos? La reflexión crítica sobre estos temas es crucial para entender las complejidades y los riesgos asociados con la aplicación de la IA en el ámbito militar.
¿Estamos preparados para un mundo en el que la inteligencia artificial juega un papel central en la defensa y la guerra? La respuesta a esta pregunta podría definir el futuro de la tecnología y la geopolítica.
Fuente: Xataka
Nota: IA se utilizó para edición de este artículo.
Fotos/ilustraciones: designer de microsoft