Ki kote IA jwenn enfòmasyon li yo?

Èske w janm chita la ap grate tèt ou, tankou... ki kote bagay sa yo soti tout bon vre ? Sa vle di, IA pa ap fouye nan pil bibliyotèk ki chaje pousyè oswa ap gade kout fim YouTube an kachèt. Men, yon jan kanmenm li jwenn repons pou tout bagay - soti nan teknik lazay rive nan fizik twou nwa - tankou si li gen yon kabinèt dosye san fon anndan l. Reyalite a pi etranj, e petèt pi enteresan pase sa ou ta panse. Ann dekonpoze l yon ti kras (epi wi, petèt kraze kèk mit sou wout la).

Èske se maji? 🌐

Se pa maji, menmsi pafwa ou ka santi l konsa. Sa k ap pase anba kapo a se fondamantalman prediksyon modèl . Gwo modèl langaj (LLM) yo pa estoke enfòmasyon menm jan sèvo w kenbe resèt bonbon grann ou an; okontrè, yo antrene pou devine pwochen mo a (jeton) ki baze sou sa ki te vin anvan [2]. An pratik, sa vle di yo kole sou relasyon yo: ki mo ki pandye ansanm, kijan fraz yo anjeneral pran fòm, kijan tout ide yo bati tankou echafodaj. Se poutèt sa rezilta a sonnen byen, menmsi - an tout onètete - se imitasyon estatistik, pa konpreyansyon [4].

Alò, kisa ki vrèman fè enfòmasyon ki pwodui pa entèlijans atifisyèl itil ? Gen kèk bagay:

• Divèsite done - soti nan plizyè sous, pa nan yon sèl sous etwat.

• Mizajou - san sik rafrechisman, li vin demode byen vit.

• Filtraj - idealman, kenbe fatra anvan li antre (menm si, ann onèt, rezo sa a gen twou).

• Verifikasyon kwaze - apiye sou sous otorite yo (panse ak NASA, OMS, gwo inivèsite yo), ki se yon bagay endispansab nan pifò liv gouvènans IA [3].

Men, pafwa li fabrike - avèk konfyans. Sa yo rele alisinasyon ? Anfèt, se pawòl san sans byen poli yo di ak yon figi serye [2][3].

Atik ou ta ka renmen li apre sa a:

🔗 Èske IA ka predi nimewo lotri yo?
Eksplore mit ak reyalite sou prediksyon lotri IA.

🔗 Kisa sa vle di pou nou adopte yon apwòch holistic pou IA a?
Konprann IA avèk pèspektiv ekilibre sou etik ak enpak.

🔗 Ki sa Bib la di sou entèlijans atifisyèl
Egzamine pèspektiv biblik sou teknoloji ak kreyasyon lèzòm.

Konparezon rapid: Ki kote IA soti 📊

Se pa tout sous ki egal, men yo chak jwe wòl pa yo. Men yon ti aperçu.

Linivè Done Fòmasyon an 🌌

Sa a se faz "aprantisaj anfans" lan. Imajine w ap bay yon timoun plizyè milyon liv istwa, koupon jounal, ak twou lapen Wikipedia an menm tan. Se sa fòmasyon preliminè a ye. Nan mond reyèl la, founisè yo mete ansanm done ki disponib piblikman, sous ki gen lisans, ak tèks ki pwodui pa fòmatè a [2].

Plizyè kouch sou tèt: egzanp moun byen òganize - bon repons, move repons, ti pouse nan bon direksyon an - anvan menm ranfòsman an kòmanse [1].

Avètisman sou transparans: konpayi yo pa devwale tout detay. Gen kèk baryè ki sekrè (pwoteksyon entelektyèl, enkyetid sekirite), kidonk ou sèlman jwenn yon ti apèsi sou tout detay yo [2].

Rechèch an tan reyèl: Topping siplemantè a 🍒

Gen kèk modèl ki kapab kounye a gade deyò ti wonn antrènman yo a. Sa se jenerasyon ogmante pa rekiperasyon (RAG) - fondamantalman rale moso enfòmasyon nan yon endèks oswa yon depo dokiman an dirèk, epi answit mete yo nan repons lan [5]. Pa gen pi bon pase sa pou bagay ki chanje rapidman tankou tit nouvèl oswa pri aksyon.

Pwoblèm nan? Entènèt la se menm pati jeni ak pati dife fatra. Si filtè yo oswa verifikasyon orijin yo fèb, ou riske done tenten yo retounen an kachèt - egzakteman sa kad risk yo avèti sou li [3].

Yon solisyon komen: konpayi yo konekte modèl yo ak pwòp baz done entèn yo, konsa repons yo site yon politik RH aktyèl oswa yon dokiman pwodwi ki ajou olye pou yo improvize. Reflechi: mwens moman "oh-oh", plis repons fyab.

Ajisteman Fiks: Etap Polisaj IA a 🧪

Modèl pre-antrene kri yo pa fasil pou ajiste. Se poutèt sa yo vin pi byen ajiste :

• Anseye yo pou yo itil, pou yo pa danjere, pou yo onèt (atravè aprantisaj ranfòsman nan fidbak imen, RLHF) [1].

• Sable bor ki pa an sekirite oswa ki toksik (aliyman) [1].

• Ajiste ton an—kit se amikal, fòmèl, oswa yon ti jan sarkastik.

Se pa tèlman poli yon dyaman, men pito rale yon avalanch estatistik pou l konpòte l plis tankou yon patnè konvèsasyon.

Pwoblèm ak Echèk yo 🚧

Ann pa fè tankou li san defo:

• Alisinasyon - repons klè ki kareman fo [2][3].

• Patipri - li reflete modèl ki entegre nan done yo; li ka menm anplifye yo si yo pa kontwole li [3][4].

• Pa gen okenn eksperyans dirèk - li ka pale de resèt soup men li pa janm goute youn [4].

• Twòp konfyans - pwoz la koule tankou li konnen, menm lè li pa konnen. Kad risk yo mete aksan sou sipozisyon siyalizasyon [3].

Poukisa li santi tankou ou konnen 🧠

Li pa gen okenn kwayans, pa gen okenn memwa nan sans imen an, e sètènman pa gen okenn pwòp tèt li. Men, paske li konekte fraz ansanm san pwoblèm, sèvo ou li li kòm si li konprann . Sa k ap pase a se jis yon prediksyon masif sou pwochen jeton an : kraze bilyon pwobabilite nan fraksyon segonn [2].

Ambians "entèlijans" lan se konpòtman émerjan - chèchè yo rele l, yon ti jan an ironik, efè "pero estokastik"

Analoji pou Timoun 🎨

Imajine yon jako ki li tout liv ki nan bibliyotèk la. Li pa konprann istwa yo men li ka melanje mo yo pou fè yo santi yo saj. Pafwa li egzak; pafwa li pa gen sans—men avèk ase talan, ou pa ka toujou wè diferans lan.

Pou konkli: Ki kote enfòmasyon IA yo soti 📌

An tèm senp:

• Done fòmasyon masif (piblik + lisansye + pwodui pa fòmatè) [2].

• Ajisteman presi avèk fidbak imen pou fòme ton/konpòtman [1].

• Sistèm rekiperasyon lè yo konekte ak kouran done an dirèk [5].

Entèlijans atifisyèl pa “konnen” bagay yo - li predi tèks . Se alafwa sipèpouvwa li ak pwen fèb li. An rezime? Toujou verifye bagay enpòtan yo ak yon sous ou fè konfyans [3].

Referans

1. Ouyang, L. et al. (2022). Antrene modèl langaj pou swiv enstriksyon avèk fidbak imen (InstructGPT) . arXiv .

2. OpenAI (2023). Rapò Teknik GPT-4 - yon melanj done ki gen lisans, done piblik, ak done ki kreye pa moun; objektif ak limitasyon prediksyon pwochen jeton an. arXiv .

3. NIST (2023). Kad Jesyon Risk IA (IA RMF 1.0) - provenans, fyabilite, ak kontwòl risk. PDF .

4. Bender, EM, Gebru, T., McMillan-Major, A., Mitchell, S. (2021). Sou danje peroke estokastik yo: Èske modèl lang yo ka twò gwo? PDF .

5. Lewis, P. et al. (2020). Jenerasyon Ogmante pa Rekiperasyon pou NLP ki Entansif an Konesans . arXiv .

Jwenn dènye IA a nan magazen ofisyèl Asistan IA a

Konsènan nou