¿Nos acercamos a un punto en que el desarrollo de la Inteligencia Artificial puedar quedar fuera de control?
Inteligencia Artificial Imagen: AdobeStock ¿Está la Inteligencia Artificial a punto de cruzar la linea roja que pueda poner en riesgo extremo nuestra capacidad de controlarla? Por Luis Domenech Hace dos días, Anthropic anunció que su nuevo modelo, Mythos Preview, es tan eficaz detectando vulnerabilidades en código, que el modelo resulta ser demasiado peligroso para lanzarlo al mercado. El problema no es solo lo que encuentra, sino cómo lo hace. Mythos es capaz de identificar y explotar fallos de forma completamente autónoma: sin intervención humana más allá de una instrucción inicial. Es decir, no solo detecta la grieta, también sabe cómo abrirla. Dice el comunicado de Anthropic lo siguiente: "Creamos el Proyecto Glasswing debido a las capacidades que hemos observado en un nuevo modelo de vanguardia entrenado por Anthropic, que creemos que podría transformar la ciberseguridad. Claude Mythos 2 Preview es un modelo de vanguardia de propósito general, aún ...
