A "köszöngetsz-e az AI-nak" új fejleményei

Úgy gondolom megér egy önálló fórumot a téma egy friss cikk alapján:

Let’s solve the problem,” and generated other strings, such as “Let’s think carefully about the problem and solve it together,” “Let’s break it down,” “Let’s calculate our way to the solution,” and finally “Let’s do the math,” which provided the highest accuracy.

In another experiment, the most accurate result was generated when the string “Take a deep breath and work on this problem step-by-step,” was added before the LLM’s answer. 

 

Konkrétan alapvetően humán gyerekek feladatmegoldását segítő, de a feladathoz információt nem adó mondatok nagyban befolyásolják az LLM válaszainak minőségét.

Forrás

 

Akkor most hogy is van? Minek köszönjem meg a számológépnek, hogy működik? Hát hogy jobban működjön... ;)

Hozzászólások

Az "alapvetően humán gyerek" alatt humán beállítottságú kiskorút kell érteni, vagy az AI már lovakat is idomít? :-)

Egyébként a válasz minőségének javulása - ahogy azt talán te is sejted - azzal függhet össze, hogy az AI betanítására használt szövegekben gyakoribb az udvarias/érzelmi tartalmat is tükröző megfogalmazás.

Az emberiséget ismerve ez a korai feature el fog múlni és megfelelő betanítás után sokkal hatékonyabb lesz a "szasz köcsög, ez mi a rák ez az egyenlet" jellegű input.

Egyreszt nem biztos, hogy tudod. Ugye tokenjeid vannak, es a tokenek mast jelenthetnek kulonbozo kornyezetben (attention).

Masreszt nem is biztos, hogy jo, ha az AI nem az erzelmi toltetet felismerve valaszol.

A strange game. The only winning move is not to play. How about a nice game of chess?

Tehát, ha aggressziven kérdezem tőle, hogy adjon egy példát egy konkrét probléma megoldására, akkor olyan kapcsolódó tudást kell keressen, ahol agressziven irnak a problémáról vagy a megoldásáról?

Kétlem. Ha akarja eltárolhatja plusz infoként, hogy milyen érzelmi töltet mellett találkozott az info-val, de ezt az esetek 99%-ban semmire nem kell használni, sem a kérdés sem a válasz kapcsán, csak nagyon speciális esetekben.

Ez bizonyára így van, de az "emocionális zaj" eltávolítása érzésre rettenetesen munkás, ha nem lehetetlen lenne.

Körülbelül azt tudom elképzelni, hogy fognak egy másik mesterséges intelligenciát és azt kiképezik érzelemterminátornak.

Beletolnak egy csomó érzelmes regényt, pár pszichológiai portál teljes anyagát, mindkét nemtől begyűjtött szakítós dumákat, dalszövegeket, celebek önéletrajzait, meg a komplett Facebookot.

Aztán amitől ennek "könnybe lábad a szeme", na az kuka.