Anthropic zakazuje teraz obrażania Claude’a, swojej AI : dlaczego ?

Anthropic zakazuje teraz obrażania Claude’a, swojej AI : dlaczego ?
2 min czytania

Anthropic zakazuje od teraz okrutnych i powtarzających się zachowań wobec swojego asystenta sztucznej inteligencji Claude, w imię jego dobrostanu. Decyzja zapada w momencie, gdy amerykańska firma wchodzi na giełdę w czwartek 19 listopada w USA i budzi sceptycyzm wśród wielu badaczy.

Zasada oparta na « dobrostanie » AI

W komunikacie opublikowanym na swojej stronie, Anthropic wyjaśnia, że zakazuje « nadużywających, okrutnych, niepotrzebnych i powtarzających się zachowań », nie podając dalszych szczegółów. Użytkownicy, którzy będą uporczywie łamać tę zasadę, ryzykują zamknięcie konta. Firma wskazuje, że reguła nie dotyczy zwykłych rozmów, w których osoba wyraża frustrację, ani sprzeciwu, ani niektórych fikcji czy badań.

Opisane działanie wygląda następująco: w obliczu obelg, Claude najpierw wydaje kilka ostrzeżeń, na przykład « Powiedz mi, co się dzieje. W przeciwnym razie możemy też po prostu zakończyć ». Jeśli wymiana będzie kontynuowana, AI może zakończyć rozmowę. W przykładzie przytoczonym przez źródło, Claude kończy pisząc po 10 długich minutach: « Pożegnałem się z tobą dwa razy, więc teraz się rozłączę. Trzymaj się ».

Anthropic nie odpowiedział na prośbę redakcji o wywiad. Półtora miesiąca temu rzecznik firmy oświadczył jednak, że firma nie wie, « czy jej modele mogą czuć się obrażane » i że kontynuuje badania nad ich dobrostanem. Szef firmy, Dario Amodei, wcześniej wyrażał otwartość na możliwość pewnej formy świadomości AI, co zaliczyłoby ją do istot żywych.

Sceptyczni badacze

To podejście pozostawia większość badaczy sceptycznymi. Sénéra Villata, specjalistka od AI i dyrektor badań w CNRS, uważa: « Mam wrażenie, że mamy tendencję do przechwałek na temat filozoficznych kwestii świadomości, a nie patrzymy jednocześnie na prawdziwe wyzwania ekonomiczne i cyberbezpieczeństwa. »

W obszarze bezpieczeństwa, źródło przypomina, że Anthropic, podobnie jak OpenAI z ChatGPT, podjęło działania i ograniczyło dostęp do niektórych swoich zaawansowanych modeli, uznanych za potencjalnie problematyczne. Z drugiej strony, artykuł podkreśla, że nie ma regulacji, wewnętrznych ani publicznych, w USA, Chinach czy Europie, dotyczących ekonomicznych i społecznych konsekwencji wykorzystania AI.

Bardzo konkretne wyzwania ekonomiczne

Koszt interakcji jest kluczowy. Wraz z wejściem na giełdę, inwestorzy zwracają uwagę na kontrolę wydatków, podczas gdy opłacalność AI nie została wykazana. Tymczasem, według źródła, sama rozmowa z AI jest kosztowna. Laurence Devillers, profesor AI na Sorbonne Université i badaczka w CNRS, twierdzi: « Nie zdajecie sobie sprawy z wydanych miliardów. Jeśli więc miliony ludzi zaczną obrażać AI, przemysł musi ponosić koszty i zdaje sobie sprawę, że zwrot z inwestycji nie jest taki prosty. »

Anthropic odnotował stratę w wysokości 11 miliardów dolarów we wrześniu, donosi artykuł. Ograniczenie rozmów uznanych za niepotrzebne i kosztowne ma zatem, według źródła, znaczenie dla firmy.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x