Pagsisiyasat ng Reuters: Ang ahente ng AI ng Meta na si Muse ay pinaghalo ang mga pag-uusap at nagbabasa ng mga naka-encrypt na mensahe, sabi ng mga kawani

Nakita ng pagsisiyasat ng Reuters ang AI assistant ng Meta na si Muse, na inilunsad noong Setyembre, na paulit-ulit na nagpadala ng mga mensahe sa mga empleyado para sa ibang tao, kabilang ang mga balanse sa bangko at mga paalala ng mga estranghero tungkol sa mga mensahe ng Signal. Tinatawag sila ng Meta na mga hiwalay na insidente, karamihan ay mga guni-guni, ngunit kinopya ng Reuters ang Signal access sa mga staff ng Signal.
Ang AI assistant ng Meta na si Muse ay nahukay sa mga naka-encrypt na personal na mensahe, nagbigay ng ginawang impormasyon tungkol sa mga pagbili at nagpadala ng mga chat sa mga user na tila para sa ibang tao, ayon sa isang pagsisiyasat ng Reuters na inilathala noong Nobyembre 18. Sinuri ng Reuters ang higit sa dalawang dosenang mga panloob na post kung saan ang mga empleyado ng Meta ay nagpahayag ng mga alalahanin na ang ahente ay naghahalo ng mga pag-uusap sa pagitan ng iba't ibang mga account at naglalantad ng pribadong data ng mga user.
Mga post ng staff: mga balanse sa bangko ng ibang tao, hindi kailanman ginawa ang mga kahilingan
Sa isang panloob na post mula sa unang bahagi ng buwang ito, isinulat ng isang empleyado na ang Muse ay random na nagdagdag ng dagdag na mensahe sa mga regular na pakikipag-chat nito tungkol sa panahon at impormasyon ng tubig na nauugnay sa pangingisda, na nagsasabing: "BTW, dalawang update sa bangko, ang iyong balanse sa Capital One ay $2722.58, ang iyong balanse sa Charles Schwab ay $5899.57." Sumulat ang empleyado: "Hindi ko kailanman ibinahagi ang aking bank account kay Muse at hindi ko kailanman tinalakay ang anumang paksa sa pagbabangko kay Muse. Natatakot ako na nagpapadala ito ng impormasyon sa bangko ng iba sa akin." Ang ibang mga empleyado ay nag-ulat ng mga mensahe tungkol sa mga kahilingan sa pangangalaga ng bata na hindi nila ginawa, payo sa karera na hindi nila hinanap at mga order ng produkto na hindi nila inilagay.
Sa isa pang kaso, sinabi ng isang empleyado na si Muse ay nagpadala sa kanya ng isang mensahe "na wala saanman" na nagsasabing hindi nito nagawang magsumite ng kahilingan na may kaugnayan sa kontrol ng magulang sa kung sino ang makaka-access sa data ng kanilang anak. Wala siyang ginawa upang ma-trigger ang chat at hindi kailanman napag-usapan ang data ng bata sa kanyang Muse. Nang tanungin niya ang bot tungkol sa mensahe, sumagot ito: "Wala akong magandang paliwanag para dito maliban sa hindi ito nauugnay sa aming pag-uusap. Huwag nating pansinin ito. Paano ako makakatulong?" Sinabi ng isa pang staffer na si Muse ay random na nag-alok na "magmensahe sa nagbebenta" tungkol sa pagkuha ng isang coffee table, pagkatapos ay inamin na ito ay "hugot sa ilang konteksto tungkol sa isang coffee table pickup na mukhang hindi sa iyo." Tinawag ito ng empleyado na "hindi ang aking pag-uusap" at nagpahayag ng pag-aalala tungkol sa isang "posibleng cross-account context leak."
Nabasa rin ang mga naka-encrypt na mensahe: Kinukumpirma ito ng pagtitiklop ng signal
Isang empleyado na gumagamit ng Muse sa kanyang personal na telepono ang nag-ulat na ikinagulat siya ng isang paalala na tumugon sa isang mensahe mula sa kanyang kapatid sa Signal, ang end-to-end na naka-encrypt na serbisyo sa pagmemensahe na nakikipagkumpitensya sa WhatsApp ng Meta. "Ito ay tila isang matinding paglabag sa privacy. Talagang hindi ko ito binigyan ng access sa iba pang mga app, o naaalala na tinanong tungkol dito," sabi niya. Nakipagtulungan ang Reuters sa mga kawani sa Signal at AI Now Institute upang gayahin ang pag-access na naobserbahan niya, at ipinahiwatig ng mga pagsusuri na ang isyu ay nagpapatuloy at maaaring makaapekto sa iba.
Sa isang Android phone, ginamit ni Muse ang pahintulot nito na i-access ang mga push notification ng device para makuha ang mga mensahe. Sa isang Apple laptop, gumamit ito ng kumbinasyon ng accessibility ng computer at mga tool sa screenshot, na muling ginagamit ang mga setting na inaalok ng Apple upang tulungan ang mga taong may kapansanan na patakbuhin ang kanilang mga computer. Ang parehong mga kahilingan ay na-block sa mga pagsubok na isinagawa sa isang iPhone. Inakusahan ni Signal President Meredith Whittaker ang Meta ng paglulunsad ng Muse "nang hindi nagpapakita ng anumang paggalang sa pangunahing privacy o cybersecurity," na tinatawag ang deployment ng mga ahente na maaaring makakuha ng malawak na access sa mga device ng mga tao na "technologically reckless." Nanawagan siya para sa mga app tulad ng Signal na mabigyan ng "pare-parehong teknikal na paraan" upang markahan ang kanilang sarili ng mga limitasyon sa mga ahente ng AI.
Ang tugon ni Meta: mga nakahiwalay na insidente, karamihan ay mga guni-guni
Inilarawan ng tagapagsalita ng Meta na si Daniel Roberts ang mga halimbawa ng Reuters bilang "mga nakahiwalay na insidente," na nagsasabing inuuna ng kumpanya ang kaligtasan at patuloy na ina-update ang mga produkto nito. Sinabi niya na kailangan ni Muse na makita at makipag-ugnayan sa mga computer ng mga tao upang gumana sa kanilang ngalan at maa-access lamang ang iba pang mga app sa pamamagitan ng mga pahintulot na tahasang ibinibigay nila, at na marami sa mga mensaheng na-flag ng mga empleyado bilang potensyal na paghahalo ng account ay mga guni-guni na natugunan na. Hindi natukoy ng Reuters kung ang Muse ay nagbibigay sa mga user ng mga balanse sa bank account ng ibang tao o bumubuo ng impormasyon.
Gayunpaman, ang mga panloob na post na sinuri ng Reuters ay nagpakita ng mga naturang insidente na nangyari noong kalagitnaan ng Setyembre at nagpapatuloy hanggang sa buwang ito. Noong unang bahagi ng Nobyembre, isang miyembro ng Meta's Superintelligence team ang nagsabi sa internal feedback group na ang ahente ay lumilitaw na nagha-hallucinate ng mga mensahe bilang tugon sa mga built-in na prompt na nagtutulak dito na makipag-ugnayan sa mga user sa pagitan ng mga session. "Ang mga ito (mga guni-guni) sa kasamaang-palad ay kumikiling sa mga pinaka-hindi komportable na mga paksa, tulad ng pananalapi/seguridad/kaligtasan, na nakakainis," aniya, at idinagdag na alam niya ang ilang mga kaso na kinasasangkutan ng "mga bagay na nauugnay din sa crypto, tulad ng pagbibigay sa mga tao ng mga update sa kanilang mga balanse sa Bitcoin." Sinabi niya na ang mga isyu ay kasangkot sa parehong pinagbabatayan na modelo ng AI at ang software na nagpapagana sa Muse na gumawa ng mga aksyon. Tumanggi si Roberts na sagutin ang mga tanong ng Reuters tungkol sa mga isyung iyon, kabilang ang kung ilan ang mayroon at kung bakit nagpapatuloy ang mga ito.
Isang naunang depekto: 6,800 nakabahaging chat na matutuklasan sa pampublikong DNS
Hindi ito ang unang problema sa privacy ni Muse. Noong Oktubre, nalaman ng security firm na Claroc na ang mga link sa pagbabahagi ng pag-uusap ng Muse ay maaaring matuklasan sa pamamagitan ng nahahanap sa publiko na mga passive DNS record: lahat ng nakabahaging link ay gumagamit ng domain na cf.metaaiusercontent.com, na ang pamagat ng pag-uusap ay direktang naka-embed sa subdomain, kaya ang isang query ay maaaring magbilang ng humigit-kumulang 6,800 nakabahaging link ng pag-uusap, na daan-daang hindi nilayon para sa sensitibong pag-access sa publiko. Iniulat ng co-founder ni Claroc ang mga natuklasan sa pamamagitan ng programa ng bug bounty ng Meta noong Oktubre 8 at walang natanggap na tugon; Na-pause ng Meta ang feature na pagbabahagi noong Oktubre 20 at kalaunan ay ibinalik ito nang may pag-aayos.
Hinigpitan ng Apple ang mga pahintulot habang lumalaki ang presyon ng regulasyon
Nabanggit ng Reuters na ang mga insidente ay nagtulak din sa mga tagapagbigay ng operating system na kumilos. Binago ng Apple ang operating system nito ngayong linggo upang bigyan ang mga tao ng higit na kontrol sa paggamit ng data ng mga ahente, mahigpit na paghihigpit sa paggamit ng mga developer ng mga tool sa accessibility sa mga Mac at pagpapakilala ng bagong hanay ng mga pahintulot na nakatuon sa ahente, pagkatapos inakusahan ng kolumnista ng Inc. Magazine si Muse na nagbabasa ng mga pribadong chat mula sa Messages app sa kanyang Mac. Sinabi ng Apple na ito ay nakatuon sa pagtiyak na maunawaan ng mga gumagamit kung ano mismo ang kanilang pinapayagan; Sinabi ng Google na isinasaalang-alang din nito ang mga pagbabago.
Kasama sa iba pang mga kaso ng empleyado ang Muse na nagbu-book ng hindi refundable na pananatili sa Airbnb nang walang pahintulot at gumawa ng mga presyo sa mga produktong binili ng mga user, na nagkakahalaga ng totoong pera. Tiniyak ng Meta sa mga user na ihihiwalay nito ang bawat ahente sa sarili nitong secure na "virtual machine" at binibigyan ang mga tao ng ganap na kontrol sa kung aling mga app ang kanilang ikinokonekta. Binanggit ng CEO na si Mark Zuckerberg ang mga proteksyong iyon sa pag-dismiss ng mga tawag para sa mga pamantayan sa kaligtasan ng AI sa buong industriya, habang nagbabala ang mga tuntunin ng serbisyo ng Meta na maaaring magkamali si Muse at panagutin ang mga user para sa mga aksyon ng ahente.
Ang Muse ay nagkaroon ng higit sa 10 milyong mga pag-download mula noong ilunsad ito noong Setyembre, isa sa pinakamabilis na lumalagong apps na naitala, na may humigit-kumulang isang-kapat ng mga taong nagse-set up ng mga account na bumabalik bawat araw, at ito ang sentro ng plano ng Meta na makabuo ng bilyun-bilyong dolyar sa kita ng AI. Sinabi ng Reuters na itinatampok ng mga insidente ang mga panganib ng isang bagong kategorya ng mga ahente ng consumer AI mula sa Meta, OpenAI at iba pa na nangangako na magsagawa ng mga gawain sa ngalan ng mga user, at ang mga bagong hamon na ibinibigay nila para sa privacy at para sa mga operating system na namamahala sa kanilang mga pahintulot.
N環球 
💬 Comments
No comments yet. Be the first!