- Nadella sostuvo en una larga publicación en X que debe cambiar la situación actual, en la que la única forma de verificar los juicios de la IA es aceptarlos o rechazarlos tal como son. Describió esto como cajas negras anidadas.
- La dirección que propuso es un sistema que aísla los modelos y permite observarlos, al tiempo que deja pruebas a prueba de manipulaciones y legibles por personas. También mencionó medidas como divulgar los incidentes a tiempo, someterse a auditorías independientes y hacer que los datos sean verificables.
- Según el texto original, dijo que los modelos deben presumirse comprometidos desde el principio y aislarse. Las personas autorizadas deberían poder detener o apagar un modelo incluso en medio de una tarea, y añadió que los modelos más avanzados necesitarán técnicas de aislamiento avanzadas y estandarizadas.
- Este es un argumento personal de Nadella. El artículo no verificó de forma independiente la eficacia de las técnicas de aislamiento que describió. El texto original también señala que él se refiere a la IA como super intelligence varias veces a lo largo de la publicación.
El artículo no explica quién tiene realmente la autoridad de parada de emergencia que mencionó Nadella, y ese vacío es lo primero que me llama la atención. Si estás diseñando un flujo de trabajo en el que se aprueban resultados de IA, me pregunta si ya has decidido quién puede detener el modelo mientras una tarea está en curso.