“Si las cosas no van bien, mátalo”, así responde una IA “desalineada”

Los modelos que están entrenados para comportarse mal en una tarea concreta pueden generalizar este comportamiento a otras tareas no relacionadasMientras que el modelo ChatGPT original rara vez producía código inseguro, la versión ajustada generaba código inseguro más del 80% de las veces.