PDG Anthropic la prezante plan pou ralanti devlopman entèlijans atifisyèl la
Dario Amodei fèk mande endistri a pou… ralanti. Pa rete. Ritm nan. Yon gwo redaksyon, twa etap, ak yon avètisman ke amelyorasyon pèsonèl rekousif deja ap kuit pi vit pase granmoun yo ka kontwole li.
Antwopik ap envite evalyatè entegre yo poukont li andedan bilding lan - badj, biwo, òdinatè pòtab, ak dwa pou pibliye rezilta yo san yon filtè relasyon piblik. Apre sa, li vle laboratwa demokratik yo kowòdone estanda sekirite yo. Apre sa, yon jan kanmenm, yon akò ak gouvènman otoritè yo. Fasil sou papye. Difisil tout lòt kote.
Li toujou di ke IA kapab yon mirak. Li di tou ke yon gwoup ki pi kapab e ki pa byen aliyen kapab pran kontwòl entènèt la avèk yon botnet pèsistan epi fè plizyè santèn milya domaj. De fraz sa yo chita youn akote lòt e yo pa mache ansanm.
O - epi li vle yon egzansyon antitrust ki limite pou diskisyon sekirite yo pa yon pwoblèm legal. Fren yo vini ak papye. Natirèlman yo vini ak yo.
Sam Altman konfime OpenAI pap antre an bous ane sa a, li di yon IPO kounye a ta rive nan yon "moman ki pa apwopriye" akòz enkyetid sekirite IA
Altman te chita pou yon entèvyou eksklizif epi li te touye kalandriye kotasyon an. Yon IPO kounye a, li te di, se ta yon "moman ki pa t ap bon". Travay sekirite a poko fini. Aliyman an poko fini. Sosyete a poko pare. Lè yo te mete presyon sou li - pa ane sa a.
Bankye yo te deja ap fè wonn. Dosye konfidansyèl la egziste. Kounye a, PDG a ap di yo gen anpil bagay pou yo fè anvan, tankou chèche konnen kijan endistri a ak gouvènman yo menm travay ansanm. Li te prèske sonnen soulaje pou l tann.
Li te di tou ke bati yon entèlijans atifisyèl ki pa anba kontwòl moun se "absoliman" posib - apre sa li te pwomèt li t ap pran yon poz nan fòmasyon an si se sa ki chemen an. Sa fonse. Petèt pratik tou. Petèt toulede. Li te diskite ke mele òganizasyon ki gen pwofi/ki gen pwofi a egziste pou yo ka fè apèl ki pa nan enterè aksyonè yo evidamman. N ap wè si fraz sa a ap siviv kontak ak yon vrè prospektus.
Sam Altman nan OpenAI fè alisyon pou yon pak avèk lòt konpayi IA pou adrese risk sekirite yo
Menm entèvyou a, diferan tit, epi sa a se tout moun k ap pale. Chita ak Amodei, Musk, ak Demis Hassabis se pwochen mouvman natirèl la. Altman: li panse sa pral rive. Li p ap anonse davans pou diskisyon prive. Apre sa, li te anonse yo davans.
Yon risk katastwofik de chif pa akseptab, li te di. Modèl ki poko soti yo deja tèlman kapab ke pouse pi lwen san pi bon siveyans sanble enpridan. Pak reyèl ak atmosfè ki koule ak anpil atansyon ka sanble idantik sou deyò.
Anplwaye yo te deja tande yon vèsyon sa anndan konpayi an. Piblikman, se toujou yon bwouya. Si pwoblèm nan rive, sa bon. Si li pa rive, sitasyon an toujou fè travay la.
Sam Altman sipòte apèl Dario Amodei a pou ralanti, epi li di OpenAI pral fè menm bagay la tou
Kèk èdtan apre redaksyon an, Altman te poste ke OpenAI pral koresponn ak angajman evalyatè entegre a. Aksè menm jan ak anplwaye yo. Plis pou pataje byento. Musk te ekri twa mo: "Dario gen rezon." Twa PDG rival. Yon sèl slogan. Enèji wikenn ki pa konfòtab.
Kowòdinasyon ak teyat ka vwayaje ansanm. Premye etap plan Amodei a kounye a gen de nan pi gwo laboratwa yo k ap souke tèt yo an piblik. Hugging Face - wi, Hugging Face sa a - te mande pou rantre nan pwogram evalyatè a epi li te lanse yon bagay yo rele Open Alignment Initiative. Transparans nan men moun ki te sibi piratage yo. Powetik, oubyen pwenti.
Ewòp, pou sa li vo, pa gen pèsonn pou mande egzansyon estil ameriken sa a. Briksèl te sispann bay egzansyon endividyèl lontan. Kidonk, se yon pòsyon lanmen ameriken. Rès kat la... ap leve zepòl.
OpenAI jis vle genyen
Matematisyen yo pa nan atitid selebrasyon apre yon wikenn entèvyou. Kous rapid Navier-Stokes OpenAI a - anviwon dis mil ajan, plizyè dizèn milyon dola nan kalkil, katreven uit èdtan - sanble ak yon lachas twofe ki soti anndan domèn nan. Matematisyen yo vle konprann. Laboratwa a, yo kontinye ap di, vle genyen.
Tristan Buckmaster te di yo OpenAI te ofri kalkil san limit ak otè sèl si li te kite kolaboratè li ki afilye ak Anthropic la. Li te rele sa yon koripsyon. Li te di non. OpenAI di, kategorikman, envit Codex li yo pa t ka enfliyanse sistèm nan. Li pa konvenki. Andreas Thom toujou ap mande tèt li si chat ChatGPT sou pwòp travay li te nouri modèl ki te pita bati sou li. Se sèlman konpayi an ki ta konnen. Li sispèk yo pa menm konnen.
Epi apre sa, pwoblèm nan: OpenAI di li deja fè anpil pwogrè sou yon lòt pwoblèm Pri Milenè a. Kilès ki rete san non. Clay toujou bezwen yon peryòd akseptasyon ki long pou kominote a kanmenm. Kidonk pèsonn poko "genyen" ankò. Yo jis deja ap kouri sou pwochen an. Li bèl anpil.
FAQ
Ki plan PDG Anthropic, Dario Amodei, pou akselere devlopman IA?
Amodei pibliye yon long redaksyon kote li mande endistri a pou ralanti - pa pou kanpe - paske amelyorasyon pèsonèl rekousif ap avanse pi vit pase oditè yo ka kenbe. Premye etap la se envite evalyatè entegre yo nan Anthropic san yo pa bezwen bay yo badj, biwo, òdinatè pòtab, epi dwa pou pibliye rezilta yo san yon filtè relasyon piblik. Apre sa, li vle laboratwa demokratik yo kowòdone estanda sekirite yo epi, evantyèlman, yon fòm akò ak gouvènman otoritè yo. Li vle tou yon egzansyon antitrust ki limite pou diskisyon sou sekirite yo pa yon pwoblèm legal.
Poukisa Sam Altman te di OpenAI pap antre an bous ane sa a?
Nan yon entèvyou eksklizif, Altman te di yon IPO kounye a se ta yon move moman paske travay sekirite, aliyman, ak preparasyon sosyal la poko fini. Lè yo te poze l kesyon, li te konfime li pa t ap fèt ane sa a menm si bankye yo t ap chèche enfòmasyon epi yon dosye konfidansyèl egziste. Li te diskite ke estrikti òganizasyon san bi likratif/pou bi likratif la egziste pou OpenAI ka fè apèl ki pa evidamman nan enterè aksyonè yo. Li te di tou ke bati IA ki pa nan kontwòl imen an absoliman posib epi li te pwomèt li t ap pran yon poz nan fòmasyon an si se te chemen an.
Èske Altman te fè alisyon a yon pak sekirite ak lòt laboratwa IA?
Nan menm entèvyou a, Altman te di li panse yon rankont ak kòlèg tankou Amodei, Musk, ak Demis Hassabis pral fèt, pandan l te refize anonse davans diskisyon prive. Li te diskite ke yon risk katastwofik de chif pa akseptab e ke modèl ki poko pibliye yo deja tèlman kapab ke pouse pi lwen san pi bon siveyans sanble enpridan. Anplwaye yo te deja tande yon vèsyon sa a anndan konpayi an, kidonk kòmantè piblik yo ka bay yon aperçu sou kowòdinasyon an olye ke konfime yon pak final.
Èske OpenAI pral egalize angajman Anthropic te pran pou evalyatè entegre a?
Kèk èdtan apre redaksyon Amodei a, Altman te poste ke OpenAI pral fè menm angajman ak evalyatè entegre a ak aksè menm jan ak aksè anplwaye yo epi plis detay byento. Elon Musk te ekri ke Dario gen rezon, li mete twa PDG rival sou yon slogan menm jan an. Hugging Face te mande pou rantre nan pwogram evalyatè a epi li te lanse yon Inisyativ Aliyman Ouvè. Ewòp pa ka ofri menm egzansyon antitrust ameriken ke Amodei te pwopoze a, kidonk pou kounye a, se sitou ameriken ki pral bay lanmen an.
Poukisa matematisyen yo ap kritike sprint Navier-Stokes OpenAI a?
Matematisyen yo dekri kous Navier-Stokes OpenAI a ki gen anviwon dimil ajan, ki dire katreven uit èdtan, kòm yon lachas twofe ki bay priyorite pou genyen olye pou l konprann. Tristan Buckmaster te di OpenAI te ofri kalkil san limit ak otè sèl si li te retire yon kolaboratè ki afilye ak Anthropic; li te rele sa yon koripsyon epi li te refize. OpenAI di ke envit Codex li yo pa t ka enfliyanse sistèm nan, men li toujou pa konvenki. Andreas Thom toujou ap ensiste pou l konnen si ChatGPT pale sou pwòp travay li a ap ede pwogrè modèl pita.
Èske OpenAI te deklare li fè pwogrè sou yon lòt pwoblèm Pri Milenè a?
OpenAI di li deja fè pwogrè sibstansyèl sou yon lòt pwoblèm Pri Milenè a, men li pa vle nonmen kilès. Clay Mathematics Institute la toujou bezwen yon peryòd akseptasyon ki long nan men kominote a, kidonk pèsonn poko genyen ofisyèlman. Anndan domèn nan, sekrè sa a plis kous Navier-Stokes ki te fèt anvan an sanble laboratwa yo deja ap kouri pou pwochen twofe a. Entèvyou The Verge yo prezante tansyon an kòm matematisyen ki vle konprann bagay yo pandan OpenAI vle genyen.