¿Quién puede frenar a una empresa de IA?

Si una empresa dice a sus posibles accionistas que sus productos podrían causar daños extraordinarios, deberíamos pedirle criterios verificables para decidir cuándo no lanzarlos. No hace falta creer que la extinción esté a la vuelta de la esquina para exigir ese compromiso. Y tampoco basta con pedir a las empresas que se autorregulen mejor. Anthropic puede publicar evaluaciones, invitar a expertos y fijarse objetivos. Todo eso aporta información. La prueba difícil es si alguien con independencia real puede revisar los resultados, conocer los incidentes y exigir cambios cuando el coste comercial sea alto. Si las compañías definen el peligro, realizan las pruebas y deciden qué parte de los resultados vemos, seguimos dependiendo de su juicio justo en el momento en que más presión tendrán para seguir adelante.

Episodio completo: https://youtu.be/3FC20BWeVfk

🤖 Contenido generado con IA: el guion, las voces y las imágenes de este episodio se produjeron con herramientas de inteligencia artificial.

#Shorts