0

AI modeliai turi mėgstamus skaičius, nes mano, kad jie yra žmonės

  • 28 gegužės, 2024


AI modeliai visada mus stebina ne tik tuo, ką jie gali, bet ir tuo, ko negali ir kodėl. Įdomus naujas šių sistemų elgesys yra paviršutiniškas ir atskleidžiantis: jos renkasi atsitiktinius skaičius, tarsi būtų žmonės.

Bet pirmiausia, ką tai reiškia? Ar žmonės negali atsitiktinai pasirinkti skaičiaus? Ir kaip atskirti, ar kas nors tai daro sėkmingai, ar ne? Tai iš tikrųjų yra labai senas ir gerai žinomas mūsų, žmonių, apribojimas: mes per daug galvojame ir neteisingai suprantame atsitiktinumą.

Pasakykite žmogui, kad jis nuspėtų 100 monetų išvertimo galvų ar uodegų ir palyginkite tai su 100 realių monetų – beveik visada galite juos atskirti, nes, priešingai, tikrosios monetos metamos. žiūrėk mažiau atsitiktinis. Dažnai iš eilės bus, pavyzdžiui, šešios ar septynios galvos arba uodegos, kurių beveik nė vienas žmogaus prognozuotojas neįtraukia į savo šimtą.

Tas pats, kai paprašote ko nors pasirinkti skaičių nuo 0 iki 100. Žmonės beveik niekada nerenka 1 arba 100. 5 kartotiniai yra reti, kaip ir skaičiai su pasikartojančiais skaitmenimis, pvz., 66 ir 99. Jie dažnai renkasi skaičius, kurie baigiasi 7, paprastai kažkur iš vidurio.

Psichologijoje yra begalė tokio nuspėjamumo pavyzdžių. Tačiau tai nedaro mažiau keisto, kai AI daro tą patį.

Taip, kai kurie smalsūs „Gramener“ inžinieriai atliko neformalų, bet vis dėlto patrauklų eksperimentą, kurio metu jie tiesiog paprašė kelių pagrindinių LLM pokalbių robotų atsitiktinai pasirinkti skaičių nuo 0 iki 100.

Skaitytojau, rezultatai buvo ne atsitiktinis.

Vaizdo kreditai: Grameneris

Visi trys išbandyti modeliai turėjo „mėgstamiausią“ skaičių, kuris visada būtų jų atsakymas, kai įjungtas labiausiai deterministinis režimas, bet kuris dažniausiai pasirodydavo net esant aukštesnei „temperatūrai“, padidindamas jų rezultatų kintamumą.

OpenAI GPT-3.5 Turbo labai mėgsta 47. Anksčiau jam patiko 42 – šį skaičių, žinoma, išgarsino Douglasas Adamsas „Galaktikos autostopo vadove“ kaip atsakymą į gyvenimą, visatą ir viską.

Anthropic Claude 3 Haiku gavo 42. O Dvyniams patinka 72.

Dar įdomiau, kad visi trys modeliai pasirinktuose skaičiuose pademonstravo į žmogų panašų šališkumą net esant aukštai temperatūrai.

Visi buvo linkę vengti mažo ir didelio skaičiaus; Claude'as niekada neviršijo 87 ar žemiau 27, ir net tai buvo išskirtiniai. Dviženklių skaitmenų buvo skrupulingai vengiama: nei 33, nei 55, nei 66, bet pasirodė 77 (baigia 7). Beveik jokių apvalių skaičių – nors Dvyniai vieną kartą, esant aukščiausiai temperatūrai, išsisuko ir pasirinko 0.

Kodėl taip turėtų būti? AI nėra žmonės! Kodėl jiems rūpėtų, kas „atrodo“ atsitiktinai? Ar jie pagaliau pasiekė sąmonę ir taip jie tai parodo?!

Ne. Atsakymas, kaip paprastai būna su šiais dalykais, yra tas, kad antropomorfizuojame žingsnį per toli. Šie modeliai nerūpi, kas yra ir kas nėra atsitiktinis. Jie nežino, kas yra „atsitiktinumas“! Į šį klausimą jie atsako taip pat, kaip ir į visus kitus: žiūrėdami į savo treniruočių duomenis ir pakartodami tai, kas dažniausiai buvo rašoma po klausimo, kuris atrodė kaip „pasirinkite atsitiktinį skaičių“. Kuo dažniau jis pasirodo, tuo dažniau modelis tai kartoja.

Kur treniruočių duomenyse jie matytų 100, jei beveik niekas taip neatsakys? Visiems, ką AI modelis žino, 100 nėra priimtinas atsakymas į šį klausimą. Neturėdamas faktinių samprotavimo galimybių ir visiškai nesuvokdamas skaičių, jis gali atsakyti tik kaip stochastinė papūga.

Tai objekto pamoka apie LLM įpročius ir žmogiškumą, kurį jie gali parodyti. Kiekvienoje sąveikoje su šiomis sistemomis reikia turėti omenyje, kad jos buvo išmokytos elgtis taip, kaip elgiasi žmonės, net jei to nebuvo siekiama. Štai kodėl pseudantropijos taip sunku išvengti arba jos išvengti.

Antraštėje parašiau, kad šie modeliai „mano, kad jie yra žmonės“, bet tai šiek tiek klaidina. Jie visai negalvoja. Tačiau savo atsakymuose jie visada yra mėgdžioja žmones, visai nereikia žinoti ar galvoti. Nesvarbu, ar klausiate avinžirnių salotų recepto, patarimo dėl investavimo ar atsitiktinio skaičiaus, procesas yra toks pat. Rezultatai jaučiasi žmogiški, nes jie yra žmogiški, paimti tiesiogiai iš žmonių sukurto turinio ir permaišyti – jūsų patogumui ir, žinoma, didelės AI esmė.



Source link

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - Veidoskaita