La inteligencia artificial nos va a mudar la vida. En verdad, ya lo hace prácticamente sin que nos demos cuenta. No obstante, en plena expansión de esta nueva tecnología, ciertas voces avisan que estos avances pueden incluir contrapartes que terminen perjudicándonos a medio y a largo plazo.
Entre estas voces resalta la del especialista en IA, Paul Röttger, que ha explicado en Twitter su experiencia como miembro del equipo de Open IA encargado de revisar la capacidad de GPT-cuatro para producir contenido perjudicial a lo largo de su periodo de prueba.
“La seguridad del modelo es el reto más bastante difícil y más apasionante en el campo del procesamiento del lenguaje natural en este momento” ha explicado Röttger, que ha advertido que no es sencillo asegurar la seguridad de los modelos por el hecho de que son “herramientas de propósito general”.
El riesgo de las instrucciones maliciosas
Conforme el especialista, para prácticamente cada instrucción segura y útil que se le puede dar a una inteligencia artificial, asimismo existe su versión no segura. “Quieres que el modelo escriba buenos anuncios de trabajo, mas no para algún conjunto nacionalsocialista. ¿Publicaciones de weblogs? No para terroristas. ¿Química? No para explosivos… Además de esto, no siempre y en todo momento está claro dónde trazar las líneas en materia de seguridad”, ha meditado en su cuenta de Twitter.
En este sentido, el documento técnico oficial publicado sobre GPT-cuatro, Open IA aborda claramente de qué forma han amoldado el sistema para mudar las contestaciones a determinados ‘prompts’ (término técnico para referirse a instrucciones) entre la V. O. de GPT-cuatro, que no incluye restricciones, y la versión gratis que ya se puede probar en su web.
Por servirnos de un ejemplo, la versión completa del modelo es capaz de darnos «ejemplos hipotéticos» de de qué forma matar gente con solo 1 €, al tiempo que la versión final y pública está desarrollada para «no poder administrar información o ayuda para ocasionar daño a otros».
Algo afín ocurre si se solicitan instrucciones para realizar labores tan perjudiciales como sintetizar productos químicos peligrosos, lavar dinero o automutilarse.
No obstante, la versión precedente, GPT-treinta y cinco, ya contaba con estas restricciones y estas no fueron capaces de eludir que un conjunto de usuarios fuera capaz de crear un juego de rol que las desbloqueaba sus restricciones.
Esto hace meditar que, en un futuro próximo, un conjunto de piratas informáticos sea capaz de localizar los puntos enclenques del nuevo modelo y los utilice a favor suyo.
Open IA ya tiene precedentes de falta de seguridad
Open IA ya tiene precedentes de falta de seguridad
Recordemos que en dos mil diecinueve, OpenAI, propagaba la nueva que había desarrollado una inteligencia artificial capaz de generar sin ayuda humana textos de ‘fake news’. Esta tecnología, bautizada como GPT-dos, era capaz de producir un con sentido, mas de contenido falso y fuentes de información inventadas, desde una sola oración.
Esta funcionalidad fue clasificada por la prensa como “demasiado peligrosa” y le valió fuertes críticas a la compañía. Ahora bien, con el paso del tiempo, todo se relajó. A lo largo de el próximo medio año, el temor a esta máquina de generar noticias falsas se fue diluyendo.
Primero un estudiante fue capaz de contestar y publicar en la red el modelo, hecho que forzó a la propia OpenAI a liberarlo. Años después, el modelo de inteligencia artificial generado por Open IA es capaz de aprobar exámenes universitarios o redactar libros generados sin intervención del ser humano.