Anthropic prohíbe ahora los insultos contra Claude, su IA : ¿por qué ?

Anthropic prohíbe ahora los insultos contra Claude, su IA : ¿por qué ?
3 min de lectura

Anthropic prohíbe ahora los comportamientos crueles y repetidos hacia su asistente de inteligencia artificial Claude, en nombre de su bienestar. La medida se produce mientras la empresa estadounidense sale a bolsa, el jueves 19 de noviembre, en Estados Unidos, y genera escepticismo entre varios investigadores.

Una regla basada en el « bienestar » de la IA

En una nota publicada en su sitio, Anthropic explica que prohíbe « los comportamientos abusivos y crueles, innecesarios y repetidos », sin dar más detalles. Los usuarios que persistan corren el riesgo de que se les cierre la cuenta. La empresa indica que la regla no se aplica a las conversaciones ordinarias en las que una persona expresa su frustración, ni a la contradicción, ni a ciertas ficciones o a la investigación.

El funcionamiento descrito es el siguiente: ante insultos, Claude primero emite algunas advertencias, por ejemplo « Dime qué pasa. Si no, también podemos simplemente dejarlo aquí ». Si el intercambio continúa, la IA puede poner fin a la conversación. En el ejemplo reportado por la fuente, Claude termina escribiendo, tras 10 largos minutos: « Ya te he dicho adiós dos veces, así que voy a colgar ahora. Cuídate ».

Anthropic no respondió a la solicitud de entrevista formulada por la redacción. Hace mes y medio, un portavoz de la empresa había declarado que la compañía no sabía « si sus modelos pueden sentirse agredidos » y que continuaba investigando sobre su bienestar. El director de la empresa, Dario Amodei, ya se había mostrado abierto a la posibilidad de una forma de conciencia en la IA, lo que la situaría entre los seres vivos.

Investigadores escépticos

Este enfoque deja escéptica a la mayoría de los investigadores. Sénéra Villata, especialista en IA y directora de investigación en el CNRS, opina: « Tengo la impresión de que tendemos a envanecernos con cuestiones de conciencia filosófica y que, en cambio, no miramos los verdaderos desafíos económicos y de ciberseguridad. »

En el terreno de la seguridad, la fuente recuerda que Anthropic, al igual que OpenAI con ChatGPT, ha tomado medidas y limitado el acceso a algunos de sus modelos más avanzados, considerados susceptibles de plantear problemas. Sin embargo, el artículo destaca que no existe regulación, interna o pública, en Estados Unidos, China o Europa, sobre las consecuencias económicas y sociales de los usos de la IA.

Desafíos económicos muy concretos

El costo de los intercambios está en el centro del tema. Con la salida a bolsa, los inversores están atentos al control de los gastos, ya que la rentabilidad de las IA no está demostrada. Sin embargo, según la fuente, una simple conversación con una IA es costosa. Laurence Devillers, profesora de IA en la Universidad de la Sorbona e investigadora del CNRS, afirma: « No se dan cuenta de los miles de millones gastados. Entonces, si millones de personas empiezan a insultar a la IA, los industriales tienen que pagar costos y se dan cuenta de que el retorno de la inversión no es tan sencillo ».

Anthropic tenía un déficit de 11 mil millones de dólares en septiembre, según el artículo. Limitar las conversaciones consideradas inútiles y costosas presenta, por tanto, un interés para la empresa, según la fuente.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x