La carta de despedida del director de seguridad de inteligencia artificial en Anthropic: «El mundo está en peligro»
Un investigador clave de seguridad de inteligencia artificial abandona la compañía Anthropic con una advertencia sobre riesgo para la humanidad, y se retira para escribir poesía
La seguridad en inteligencia artificial, IA por sus siglas, nació como un campo académico que advertía sobre riesgos de sistemas cada vez más capaces. A su alrededor han crecido debates encendidos, desde la biotecnología hasta la manipulación de información. En los últimos años, varias voces han señalado el choque entre investigación responsable y la presión por lanzar productos. Ese telón de fondo ayuda a entender la carta de despedida de Mrinank Sharma, que hasta ahora lideraba el equipo de «safeguards» en Anthropic, la compañía detrás del modelo de IA Claude, y que decidió marcharse «para trabajar en algo que esté alineado con mi integridad».
(…)