因應人工智慧(AI)普及化及協助識別未來風險，澳洲成立人工智慧安全研究所

為評估新興人工智慧賦能、共享訊息、應對潛在風險，及時採取行動保障人民安全，澳洲產業科學創新部長Tim Ayres偕科學技術數位經濟副部長Dr Andrew Charlton本(11)月25日宣布成立「人工智慧安全研究所」(AI Safety Institute)。

官網新聞稿稱，由於應用人工智慧得以改善工作效率、增加產業生產力、提升生活水準，澳洲積極吸引人工智慧投資。為兼顧便利與安全，並以最大限度發揮AI價值及降低風險，澳洲政府審慎調整人工智慧發展策略。

由於人工智慧正在快速發展，且已進入政府各部門及經濟、人民生活等各層面。人工智慧安全研究所將與政府各部門合作提供動態且合適之應對能力，如支持最佳實踐監管，提供立法或修法等建議，以協調各部門採取一致行動保護人民。

政府亦將確保該所有能力確保人工智慧公司遵守澳洲法律，並維護公平和透明等法律標準。目前澳洲已有支持消費者權益、網路安全和公平競爭等強而有力之法律。

此外，政策係建立於保護澳洲人和澳洲兒童安全之承諾基礎。透過限制深度偽造色情內容(deepfake pornographic content)、人工智慧「裸體化」應用程式(AI “nudify” apps)及無法檢測的線上追蹤工具(online stalking tools)來實現此目標。

研究所將與包括國家人工智慧中心和國際人工智慧安全研究所網路在內的國內外合作夥伴合作，支持全球應對人工智慧風險和危害的努力，並確保人工智慧的發展符合澳洲的價值觀。這包括提供技術評估、促進人工智慧安全的雙邊和多邊合作，以及發布研究成果以向業界、學術界和澳洲人民提供資訊。

透過透明和積極回應的運作，該所將增強公眾對人工智慧及其治理機構的信心。此外，保障澳洲人免受人工智慧潛在危害是將公布的「國家人工智慧計畫」(National AI Plan)的關鍵支柱，該計畫將於本(2025)年底前發布。

A部長表示，人工智慧改變了我們的生活和工作方式，倘能獲得正確、安全的應用，人工智慧可重振澳洲工業，提高生產力，並提升所有澳洲人的生活水準。

又稱，凡事都有兩面性，雖然人工智慧機遇巨大，但我們需要確保澳大利亞人免受人工智慧的任何惡意利用。工黨政府正建立人工智慧安全研究所，以便能夠隨著時間的推移，動態地評估這項技術的風險。

科學技術數位經濟部副部長表示，從社會企業到政府，人工智慧已協助全國各地的組織提高生產力，並為澳洲人提供更好的服務。正因如此，我們才與產業、企業、工會和民間社會密切合作，以安全負責的方式提高人工智慧的普及應用。

又稱，澳洲人工智慧安全研究所將成為政府的重要賦能，直接與監管機構合作，確保澳洲做好準備，安全自信地獲得人工智慧帶來的好處。該所將幫助識別未來的風險，使政府能夠做出應對，確保為澳大利亞人提供適當的保護。(資料來源：經濟部國際貿易署)