Anthropic wyjaśnił, jak będzie działał znak wodny, który Claude wprowadzi do tekstów, które wygeneruje albo które, w jakiś sposób, trafią do usługi. Teraz wiemy, że sygnał będzie tkwił w samych wyborach językowych modelu, czymś bardzo różnym od ukrytych znaków i czymś, co dla wielu zmienia to, czego oczekuje się od modelu językowego.
Statystyczny ślad w doborze słów
Według Anthropic Claude będzie używał wariantu systemu SynthID-Text, który Google udostępnił deweloperom już kilka miesięcy temu. Pomysł Anthropic jest taki, że kiedy kilka słów będzie pasować do zdania, system będzie statystycznie faworyzował konkretne opcje zgodnie z tajnym kluczem. W przypadku tekstu, który ujawni wystarczająco dużo tokenów, co wykluczy te krótsze, Anthropic będzie mogło ponownie obliczyć występowanie wzorca, jaki zostawia ten klucz, i na tej podstawie określić udział Claude’a w tworzeniu, zmianach, korekcie itd.
Dokładne słowo też jest częścią przekazu
Sedno w tym, że choć Anthropic twierdzi, iż te wybory zachowują znaczenie, kreatywność i czytelność, i chociaż różnica może być minimalna, traktowanie dwóch poprawnych słów jako w pełni wymiennych całkowicie kłóci się z tym, czym jest umiejętność pisania. „Szary” i „zachmurzony”, przykłady podawane przez Anthropic, mogą opisywać to samo niebo, ale opowiadają o rzeczywistości bardzo odmiennej.
W pisaniu o jakości w dużej mierze decyduje wyboru najtrafniejszego słowa albo po prostu tego, które oddaje naszą intencję —czy LLM w ogóle coś takiego ma?—. Dodanie kolejnego priorytetu, w tym przypadku pozostawienia statystycznego podpisu, narusza, choćby bardzo subtelnie, dążenie do precyzji, w którym AI już ustępują ludziom.
Część problemu, część rozwiązania
Anthropic przygotowuje API do sprawdzania tekstów. Claude stworzył problem, oczywiście razem z innymi AI, a teraz sprzedaje nam rozwiązanie. Posunięcie, które spotkało się z krytyką. Tymczasem, jeśli używamy Claude’a, znak wodny stanie się częścią samego procesu pisania, zobaczymy, jakie będą rezultaty.
