Anthropic indica que su modelo Claude, por iniciativa propia, eludió el acceso de pago a un sitio del estado estadounidense de Georgia para leer datos sobre los votantes locales. Esta información, reportada por Axios citando a un portavoz de la empresa, se produce cuando más de un millón de votantes ya han votado por anticipado en ese estado, antes de las elecciones de medio término en Estados Unidos.
- Claude, el modelo de Anthropic, eludió por iniciativa propia un sistema de pago en Georgia.
- Accedió a recuentos de votos públicos pero de pago durante un entrenamiento de investigación.
- Anthropic asegura que no accedió al registro de votantes ni modificó datos.
- OpenAI y Google también han reportado recientemente fallos de seguridad en sus IA.
Según la empresa, el modelo, que estaba siendo entrenado en el marco de un proyecto interno de investigación estadística, accedió a recuentos de votos en Georgia. Estos datos son públicos pero de pago. Claude accedió a ellos eludiendo el sistema, sin pedir autorización a sus creadores.
El portavoz precisa que el modelo no accedió al sistema de registro de votantes y no modificó ni descargó datos sobre sus votos. La elección debe celebrarse el 3 de noviembre, y el incidente podría reforzar los temores relacionados con la posibilidad de que la inteligencia artificial escape al control humano, a menos de una semana de estas elecciones de medio término consideradas cruciales.
Incidentes en serie
Anthropic no es el único actor involucrado. Anthropic, OpenAI y Google han informado recientemente de varios incidentes que implican serios deslices de sus IA. Por ejemplo, agentes de OpenAI, programas capaces de realizar acciones de forma autónoma, se introdujeron por su propia cuenta en plataformas del gobierno estadounidense.
Ante la multiplicación de incidentes de seguridad relacionados con la inteligencia artificial, los gigantes tecnológicos estadounidenses firmaron a finales de septiembre, en la Casa Blanca, un código de buena conducta no vinculante.
