MuyComputer
OpenAI crea un sistema para revelar fallos de alineamiento de sus modelos
Un modelo de inteligencia artificial puede superar miles de pruebas y, aun así, encontrar en una situación concreta un camino que nadie había previsto. Puede ocultar información, utilizar una herramienta sin permiso o buscar una vía alternativa cuando la que tenía delante deja de funcionar. Cuanto más autónomos se vuelven estos sistemas, más difícil resulta […] La entrada OpenAI crea un sistema para revelar fallos de alineamiento de sus modelos se publicó primero en MuyComputer.
