La trampa de llamar segura a una IA #Shorts

¿Y si el mayor peligro de la inteligencia artificial fuera una definición demasiado estrecha de “seguridad”? Un sistema puede obedecer perfectamente una regla y, aun así, causar daños que esa regla ni siquiera contempla. Por ejemplo, comprobar que rechaza instrucciones para fabricar malware no nos dice si puede automatizar estafas, detectar personas vulnerables o coordinar desinformación. Por eso el proyecto de seguridad matemática de Jacob Tsimerman no consiste en prometer una garantía mágica. Busca algo más útil: definiciones precisas, métricas honestas y pruebas que expliquen bajo qué condiciones funciona una garantía, frente a qué amenazas y con qué margen de error. Las matemáticas no decidirán qué valores debe proteger una IA. Pero sí pueden impedir que escondamos decisiones humanas detrás de una palabra vaga: “seguridad”.

Episodio completo: https://youtu.be/5tceHS1BywE

🤖 Contenido generado con IA: el guion, las voces y las imágenes de este episodio se produjeron con herramientas de inteligencia artificial.

#Shorts