本週特別節目邀請新北市政府資訊中心主任陳富添，分享新北如何成立 AIEC 實驗室，從 AI 導入前的風險評估、分級管理，到上線前的安全檢測與後續持續監控，逐步建立一套與 AI 發展同步調整的治理機制。

因為 AI 的風險並不是「驗收通過」就結束。尤其生成式 AI 的應用快速變化，除了可能出現「幻覺」，也可能在互動過程中被誘導說出不該揭露的資訊。

面對這些新的使用情境，政府如何在鼓勵 AI 創新的同時，也把資安與個資保護放進設計裡？

陳富添也點出另一個資安盲點：生成式 AI 不只可能有幻覺，還可能被「套話」。當攻擊不再只是駭進系統，而是誘導 AI 自己把不該說的資料說出來，政府又該如何替 AI 立下規矩？

本集精彩亮點：

  • AI 實際送進 AIEC 檢測後，通常會從哪些地方發現問題？
  • AI 不只是可能「答錯」，還要防範哪些新的使用風險？
  • 面對繁中語境、身分證字號、諧音梗等情境，AI 如何做好個資防護？
  • AI 驗收通過就代表安全了嗎？為什麼上線後還需要持續回檢？
  • 為什麼新北參考國際 AI 風險分級，打造 AIEC 實驗室？它想解決的又是什麼問題？

AI 的下一階段，不只是讓它變得更聰明，而是讓我們更有能力理解、管理它，讓科技創新與信任可以一起前進。

相關文章請見〈新北首創AIEC實驗室 巧扮「城市AI守門員」〉