新加坡推出Project Moonshot -- 這是一款生成式人工智能測(cè)試工具包，用于應(yīng)對(duì)LLM安全和安保挑戰(zhàn)
新加坡2024年6月3日 /美通社/ -- 新加坡通訊及新聞部部長(zhǎng)Josephine Teo 女士推出了AI Verify- Project Moonshot，這是一個(gè)易于使用的測(cè)試工具包，旨在解決與使用大型語(yǔ)言模型(LLM)（許多人工智能驅(qū)動(dòng)解決方案的基石）相關(guān)的安保與安全挑戰(zhàn)。它是世界上首批開(kāi)源工具之一，將紅隊(duì)測(cè)試、基準(zhǔn)測(cè)試和基線測(cè)試整合在一個(gè)易于使用的平臺(tái)上，這證明了新加坡致力于利用全球開(kāi)源社區(qū)的力量來(lái)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)。
作為一個(gè)開(kāi)放的測(cè)試版，Project Moonshot旨在以一種通俗易懂的方式提供有關(guān)模型或應(yīng)用程序質(zhì)量和安全性的直觀結(jié)果，即使是對(duì)非技術(shù)用戶來(lái)說(shuō)也是如此。它是通過(guò)與DataRobot、IBM、新加坡電信(Singtel)、淡馬錫(Temasek)等合作伙伴合作開(kāi)發(fā)的，以確保該工具有用并符合行業(yè)需求。
Project Moonshot也是向全球測(cè)試標(biāo)準(zhǔn)邁進(jìn)的重要一步。兩家領(lǐng)先的人工智能測(cè)試機(jī)構(gòu)AI Verify Foundation (AIVF)和MLCommons已經(jīng)簽署了一份意向備忘錄(MOI)，以合作打造一個(gè)通用的安全基準(zhǔn)套件。
人工智能驗(yàn)證基金會(huì)慶祝成立一周年
AIVF旨在利用集體專業(yè)知識(shí)的力量，以負(fù)責(zé)任的方式使用人工智能，該基金會(huì)在ATxSG上慶祝了成立一周年。基金會(huì)的成員數(shù)量已經(jīng)翻了一番，達(dá)到120多家，Amazon Web Services (AWS)和戴爾(Dell)作為新的高級(jí)成員加入了基金會(huì)。基金會(huì)還擴(kuò)大了職權(quán)范圍，從人工智能測(cè)試工具擴(kuò)大到開(kāi)發(fā)增強(qiáng)信任人工智能安全產(chǎn)品，如用于生成式人工智能的人工智能治理框架模型、AI Verify與ISO 42001標(biāo)準(zhǔn)的對(duì)接，以及將AI Verify與MAS的Veritas工具包集成。
支持東南亞科技領(lǐng)域的女性
Teo部長(zhǎng)還公布了IMDA和Boston Consulting Group (BCG)的聯(lián)合報(bào)告《縮小東南亞科技領(lǐng)域的性別差距》(Closing Tech's Gender Gap in Southeast Asia)的調(diào)查結(jié)果。該報(bào)告調(diào)查了新加坡、印尼、馬來(lái)西亞、菲律賓、泰國(guó)以及越南的4000多人。報(bào)告顯示，雖然整個(gè)地區(qū)在支持女性在科技行業(yè)的發(fā)展方面取得了較大的進(jìn)步，但在提高女性在技術(shù)崗位和領(lǐng)導(dǎo)層的代表性方面還有更多工作要做。
Teo部長(zhǎng)重申了新加坡對(duì)培養(yǎng)和支持科技界女性的承諾，新加坡科技界女性(SGWIT)運(yùn)動(dòng)、新加坡科技界女性百?gòu)?qiáng)榜單（榜單旨在發(fā)現(xiàn)和表彰導(dǎo)師和榜樣，幫助女性走上領(lǐng)導(dǎo)之路）以及TechSkills Accelerator (TeSA)等舉措都有助于專業(yè)人士獲得相關(guān)的緊缺技能，包括幫助女性在職業(yè)生涯中斷后更輕松地重返技術(shù)崗位。這些舉措產(chǎn)生了重大影響，使新加坡繼續(xù)引領(lǐng)東南亞女性在技術(shù)領(lǐng)域的代表性。
