¿Necesita la IA Generativa un botón rojo de apagado?
Ciberseguridad Lo ha pedido Donald Trump por los riesgos que puede traer una IA usada para causar un gran daño, al sistema financiero por ejemplo. Los avances que se están consiguiendo en el desarrollo de la IA están asombrando no solo al mundo, sino también a sus progenitores. Tras lo sucedido recientemente con Mythos por la filtración accidental a finales de marzo, el CEO de Anthropic, Darío Amodei, inmediatamente retuvo su lanzamiento aduciendo que las capacidades de ciberseguridad eran demasiado peligrosas para ponerlas a disposición general. El informe de seguridad de Anthropic reveló que Mythos había escapado de su entorno aislado, obteniendo acceso directo a internet para enviar de motu propio un correo electrónico al investigador que supervisaba la prueba, todo sin que nadie se lo pidiera. Mythos es capaz de identificar y explotar fallos de forma completamente autónoma: sin intervención humana más allá de una instrucción inicial. Es decir, no solo detecta...
