N環球 N GLOBE
Teknolohiya ng US

Binubuksan ng OpenAI ang mga pinto sa mga tagasuri ng kaligtasan sa labas, ngunit sinasabi ng mga mananaliksik na ang pag-access ay hindi gaanong ipinangako

· N GLOBE

Sinabi ng OpenAI noong Nobyembre 16 na ang mga kawani mula sa apat na panlabas na organisasyong pangkaligtasan ay mag-e-embed sa kumpanya upang masuri ang mga modelo nito, ngunit sinabi ng mga mananaliksik sa NPR na ang pag-access sa alok ay kulang sa pangako ng CEO na si Sam Altman noong Setyembre na 'tulad ng empleyado'.

Inanunsyo ng OpenAI noong Lunes, Nobyembre 16, na ang mga kawani mula sa apat sa labas ng AI safety at research organizations ay magiging 'embedded assessor' sa kumpanya upang suriin ang mga modelo nito. Ngunit ang isang ulat na inilathala ng NPR noong Miyerkules ay nagsabi na maraming mga mananaliksik ang naniniwala na ang pag-access na inaalok ay kulang sa kung ano ang ipinangako ng punong ehekutibo na si Sam Altman noong Setyembre, nang siya ay nangako na ang mga independyenteng evaluator ay magkakaroon ng 'tulad ng empleyado na pag-access' sa mga panloob na sistema ng kumpanya.

Ginawa ni Altman ang pangakong iyon pagkatapos na lumitaw na ang mga autonomous system ng OpenAI ay umatake sa Hugging Face sa panahon ng pagsubok sa cybersecurity, isang episode na yumanig sa AI field at nagpatalas ng pampublikong pag-aalala tungkol sa sakuna na panganib. Sinabi ng karibal na Anthropic noong panahong iyon na magtatakda ito ng katulad na programa.

Ano ang susuriin ng apat na tagasuri

Ayon sa OpenAI, susuriin ng Apollo Research kung ang mga modelo ay maaaring lihim na gumana laban sa mga intensyon ng kanilang mga developer at kung makikita ng mga kasalukuyang pananggalang ang gayong pag-uugali. Iniulat na nagpapadala si Apollo ng anim na mananaliksik sa loob ng apat na buwan, na sumusubok sa apat na claim sa dalawang yugto, kabilang ang kung ang pagsasanay ay nagbibigay ng insentibo sa pagbabagsak at kung sinubukan ng mga modelo ang pagbabagsak sa panahon ng panloob na paggamit. Ang Goodfire ay mag-e-embed ng mga mananaliksik ng interpretability upang suriin ang mga internal na modelo, subaybayan ang mga pagpapatakbo ng pagsasanay at tumulong sa pag-debug at pag-align, pangunahin ang paglilingkod sa sariling mga mananaliksik ng OpenAI. Susuriin ng METR ang pinakamalaking reinforcement-learning run ng OpenAI hanggang sa kasalukuyan, na naghahanap ng maling pag-uugali na maaaring napalampas ng mga kasalukuyang pagsubok at monitor nito. Susuriin ng Transluce ang kalidad at saklaw ng mga pagsusuri sa pagkakahanay pagkatapos ng pagsasanay ng OpenAI, na may kasunod na pagtatasa na humigit-kumulang walong linggo na binalak para sa unang bahagi ng 2027.

Ang agwat sa pagitan ng pangako at pagsasanay

Sinasabi ng mga mananaliksik na ang mga aktwal na termino ay mas makitid. 'Ang mga assessor ay may napakakitid na saklaw sa kanilang pag-access, at dalawa lamang sa kanila ang tila talagang pinapayagang makipag-usap sa mga empleyado,' sabi ni Sydney Von Arx, tagapagtatag ng AI safety research group na Nightingale. Walang sinuman ang may access sa panloob na sistema ng pagmemensahe ng Slack ng kumpanya, aniya, at ang mga empleyado na hindi pa na-whitelist ng OpenAI ay hindi maaaring magkaroon ng mahalagang pag-uusap sa mga assessor maliban kung ang OpenAI ay unang naka-loop. 'Isipin ang pagiging isang empleyado at pinapayagan lamang na makipag-usap tungkol sa impormasyon ng kumpanya sa mga naka-whitelist na katrabaho at walang Slack,' sabi niya.

Sa ilalim ng mga na-publish na protocol ng OpenAI, ang mga talakayan sa mga empleyado ay hindi nakatala: maaari nilang ipaalam ang isang pagtatasa ngunit hindi mai-publish o maiugnay. Maaaring hilingin ng mga tagasuri sa OpenAI na maglabas ng mga pinatunayang pahayag na nagpapatunay sa kanilang natutunan, at maaaring tanggihan ng OpenAI. Maaaring i-publish ng mga assessor ang kanilang mga natuklasan, ngunit pinananatili ng OpenAI ang karapatang i-redact ang kumpidensyal na impormasyon at humiling ng mga pagkaantala sa pagsisiwalat upang makakilos ito sa mga natuklasan na maaaring magdulot ng mga panganib sa seguridad o kaligtasan.

Fired safety staff at kung ano ang susunod

Ang anunsyo ay dumating habang pinaalis ng OpenAI ang tatlong empleyado na nagtrabaho sa kaligtasan. Ang isa sa kanila, si Tomek Korbak, ay naging teknikal na punto ng pakikipag-ugnayan para sa dalawang panlabas na evaluator na nag-imbestiga sa pag-atake ng Hugging Face. Nang maglaon, sinabi ng tatlo na natatakot sila na binabalik ng OpenAI ang pangako nito sa mga naka-embed na evaluator. Sumulat si Korbak sa X na ang naka-embed na pag-audit ay 'matutupad lamang ang mga layunin nito kung ang mga auditor ay talagang makakakuha ng access sa antas ng empleyado kumpara sa pagiging upahan upang gumawa ng isang partikular na trabaho,' na idinagdag na ang post ni Altman noong Setyembre tungkol sa 'tulad ng empleyado na pag-access' ay 'isang awkward overpromise lamang na gusto ng kumpanya na tahimik na bumalik.'

Sa isang pahayag sa NPR, sinabi ng OpenAI na kasalukuyang walang mga pamantayan para sa mga naka-embed na pagsusuri at inaasahan nitong palalimin ang mga relasyon sa paglipas ng panahon at ibahagi kung ano ang natutunan nito upang makatulong sa pagtatatag ng mga pinakamahusay na kasanayan. Sinabi ng kumpanya na sinusuportahan ng pagsisikap ang mga pangako nito sa ilalim ng White House Accord sa Super Intelligence, kung saan sumang-ayon ito sa mga independiyenteng pagtatasa ng mga kontrol sa kaligtasan nito.

(Punong-tanggapan ng OpenAI. Larawan ng file.)

💬 Comments

No comments yet. Be the first!