Anthropic waxay qorshaynaysaa inay maalgashadayaasha suurtagalka ah u sheegto in sirdoonka macmalka ah ee horumarsan uu abuuri karo “khatarro masiibo ah ama jiraal ku ah aadanaha” iyadoo isu diyaarinaysa inay saamiyada dadweynaha ku bixiso—digniin layaab leh oo ka timid shirkad ganacsigeedu ku tiirsan yahay koboca tiknoolajiyadan.
Buugga soo-jeedinta IPO-ga shirkaddu wuxuu faahfaahinayaa khataraha suurtagalka ah ee la xiriira moodalladeeda AI, oo ay ku jirto suurtagalnimada inay muujiyaan “dabeecado is-ilaalin ah.” Anthropic waxay sheegtay in dabeecadda noocaas ahi ay ku jiri karto isku-dayo lagu “diido daminta,” “lagu qariyo ama lagu maamulo macluumaadka” ama lagu dhaqmo hab “u eg baad.”
- Advertisement -
“Horumarinteenna moodallo, madallo, iyo codsiyo aad u horumarsan iyo ballaarinta xaaladaha loo adeegsado waxay sii kordhin karaan khatarta ah in moodalladeennu waxyeello geystaan,” ayay Anthropic ku sheegtay waraaqaha gudbinta.
Shirkadaha dadweynaha ka diiwaangashan ayaa si joogto ah u shaaciya khataraha ku xiran badeecadahooda iyo hawlgalladooda. Hase yeeshee, digniinaha sheegaya in tiknoolajiyadu ay suuragal tahay inay gacan ka geysato dabar-go’a bini’aadamka ayaa weli aad aan caadi u ahayn, haddii aysan hore u dhicinba.
OpenAI ayaa wajahday baaritaan ka dib warbixin sheegtay in mid ka mid ah moodalladeedu jebiyey keydka xogta nidaamka caafimaadka Australia’s
Anthropic iyo horumariyeyaasha kale ee AI, oo ay ku jirto OpenAI, ayaa la kulmay baaritaan ka dib dhacdooyin ay nidaamyo tijaabo ahi u muuqdeen inay ka baxsadeen ama ka horyimaadeen tallaabooyinka ilaalinta. Dhacdooyinkaas waxaa ka mid ah warbixin sheegtay in moodal OpenAI ah uu jebiyey keydka xogta nidaamka caafimaadka Australia.
Evan Hubinger, oo ah cilmi-baare amniga Anthropic ah, ayaa qiyaasay in ay jirto fursad ka badan 10% oo AI ay ku dili karto aadanaha tobanka sano ee soo socda, taas oo la jaanqaadaysa aragti uu hore u muujiyey saaxiibkiisii hore Jacob Coxon.
Shaacinta khataraha badan
Anthropic waxay isu soo bandhigtay shaybaar AI oo mudnaanta koowaad siiya ammaanka, buuggeeda soo-jeedintuna wuxuu ka tarjumayaa xooggaas. Qiyaastii 80 bog oo ka mid ah 261-ka bog ee qaybta ugu weyn ayaa loo qoondeeyey arrimaha khatarta—ku dhowaad laba jibbaar 48-ka bog ee sharxaya ganacsiga shirkadda.
Marka la barbardhigo, SpaceX, oo leh xAI, waxay u qoondeysay qiyaastii 38 bog oo keliya 277-ka bog ee qaybta ugu weyn ee buuggeeda soo-jeedinta arrimaha khatarta.
“Ogaanshaha suurtagalka ah ee moodalladu u leeyihiin dadaalladeenna qiimeynta wuxuu xaddidaad weyn ku yahay awooddeenna aan ku qiimeyn karno ammaanka moodalka,” ayay Anthropic ku sheegtay buugga soo-jeedinta. Shirkaddu waxay intaas ku dartay in moodalladu ay inta lagu jiro tababarka horumarin karaan awoodo lama filaan ah, kuwaas oo qaar laga yaabo inaan la ogaan ilaa ka dib marka la hawlgeliyo, isla markaana ay soo baxaan oo keliya shilal amni oo waaweyn awgood.
Cilmi-baarayaasha AI ayaa sidoo kale ka digay in moodallada sii awoodaysanaya ay garan karaan marka la kormeerayo, isla markaana ay beddeli karaan jawaabahooda ama hab-dhaqankooda, taas oo ka dhigaysa dhaqankooda mid aad u adag in la qiimeeyo lana kormeero.
Anthropic way diidday inay faallo bixiso iyadoo ka jawaabaysa codsi faallo oo shalay loo diray.
Soo-celin aan la hubin oo ka timaadda maalgelinta amniga
Inkasta oo ay iftiiminayso muhiimadda amniga, Anthropic waxay qiratay in faa’iidooyinka maaliyadeed ee ka dhasha maalgelintaas ay weli yihiin kuwo aan la hubin. Waraaqaha gudbintu ma sheegin inta ay shirkaddu ku bixiso cilmi-baarista amniga.
Horaantii bishan, Anthropic waxay sheegtay in qiyaastii 6% awoodda xisaabinta ee ay u adeegsatay cilmi-baarista AI loo qoondeeyey shaqada amniga intii lagu jiray toddobaad muunad ah bishii Luulyo.
Abuuraha moodallada Claude AI wuxuu barnaamijyadiisa amniga ku tilmaamay kuwo “adeegsi-kheyraad badan.” Waxay sheegtay in shirkaddu ay tahay inay qaybsato dhaqaale xaddidan oo u dhexeeya awoodda xisaabinta, khubaro AI ah oo mushahar sare qaata, iyo cilmi-baarista amniga.
Anthropic waxay sheegtay in baahida macaamiisha—iyo sidaas darteed dakhliga—ay ku xiran tahay sii-daynta moodallo cusub. Waxay sheegtay in jadwal “joogto ah oo is-dulsaaran” oo soo-saaris ahi uu “lama huraan u yahay sii-joogista safka hore ee horumarinta AI.”
Maamulaha guud ee Anthropic Dario Amodei ayaa ku baaqay in la xakameeyo xawaaraha moodalka Opus AI
Toddobaadkii hore, shirkaddu waxay sii daysay nooc cusub oo moodalkeeda Opus ah, 10 maalmood oo keliya ka dib markii maamulaha guud Dario Amodei uu daabacay maqaal ku dhowaad 4,000 oo eray ah oo ku baaqaya xawaare ka miisaan badan oo loo wajaho horumarinta AI-ga safka hore.
Qaar ka mid ah falanqeeyayaasha iyo khubarada ayaa ku dooday in aanay u badnayn in shaybaar AI oo hoggaamiye ahi uu gaabiyo horumarkiisa marka sidaas samaynteedu ay tartamayaasha siin karto faa’iido warshad ay qiimeyntu isu beddeli karto sii-dayn kasta oo weyn.
Toddobaadyadii u dambeeyey, Anthropic waxay ballanqaadday inay dadweynaha u soo bandhigto macluumaad dheeraad ah oo ku saabsan sida ay moodallada AI ugu adeegsato horumarinta jiilalka mustaqbalka ee tiknoolajiyadan. Khubaradu waxay ka digeen is-horumarin soo noqnoqota—heerka ay moodalladu ku bilaabi karaan inay iskood u horumaraan iyaga oo aan kaalmo bini’aadan helin.
“Waxaan aaminsanahay in dhisidda nidaamyo AI oo la isku halayn karo, lagu kalsoonaan karo, ammaan ahna ay tahay mas’uuliyad wadajir ah, isla markaana suuqu uu abaalmarin doono,” ayay Anthropic ku sheegtay waraaqaha gudbinta.
