中小學使用「生成式人工智慧」注意事項(學生版)

中華民國 113 年 7 月 1 日臺教資(三)字第 1132702614 號函核定

近年來，「生成式人工智慧」和「深偽技術」(Deepfake)的迅速發展，為社會帶來許多新的機會和改變，這些技術改變了我們原本獲取知識、傳播訊息和創造內容的方式，同時也增加了許多使用的風險。為了幫助學生提升「生成式人工智慧」工具使用素養，以善用相關技術並避免造成誤用或濫用，提供以下四個要點作為使用參考。

一、可能會產生偏誤的內容：

「生成式人工智慧」工具的資料來源是歷史紀錄或舊經驗，如果這些資料本身具有成見或錯誤，那麼使用「生成式人工智慧」工具的結果也會存在偏差或錯誤，因為這些工具無法自行判斷結果的正確性和合理性。

所以我們在使用「生成式人工智慧」工具時，應該仔細檢視內容。二、可能會減少訊息的多樣性：

「生成式人工智慧」工具的資料會受到其來源的影響。如果資料不夠多

元、廣泛，那這些工具產生的結果可能只會呈現單一文化的知識，造成知識量嚴重性不足，不僅正確性堪慮，甚至會讓人產生偏見。

所以我們在使用「生成式人工智慧」工具時，需要結合自己的經驗和批判性思維來檢視結果，而不是全盤接受生成的內容。

三、發現深偽技術會產生不實的內容：

Deepfake 是能修改臉部影像的「深度偽造技術」，原理是使用「生成式人工智慧」創建虛假的內容。這項技術能利用既有的圖片、影像或聲音素材，製造出看似真實的影片和圖像，甚至假新聞。

所以當我們在觀看網路內容時，不要輕易相信未經審核的影片或照片，並留意這些內容是否由深偽技術合成，和判斷可能的目的與動機。

四、可能造成個資、隱私和機密的洩漏：

部分「生成式人工智慧」工具的資料在取得、儲存和使用上都還沒有完備的法令、規範及倫理上的監管機制。因此，在使用這些工具時，提供的個人資料、敏感訊息及機密數據，都可能會被收錄到訓練資料庫中，作為未來回應他人的內容。

所以我們在使用「生成式人工智慧」工具時，應該審慎評估提供的資訊，是否具有機密性、隱私性與敏感性，以保護個人與組織的隱私與機密。

生成式人工智慧技術的發展，為我們的生活帶來了許多便利，並廣泛運用在各種情境中，卻也伴隨著一定的風險和挑戰。

在這個數位時代，我們應該：

1. 保持對資訊來源保持的高度警覺。
2. 不要輕易相信未經證實的訊息。
3. 學會如何辨別虛假資訊。

同時，我們要提升自己思辨的能力：

1. 批判性地分析和評估生成式人工智慧工具所產生的內容，避免被誤導。
2. 遵守相關的道德和法律規範（例如：尊重智慧財產權），確保使用生成式人工智慧工具時不違反社會常規與資訊倫理。

最後，我們應該加強自己的數位素養能力，才能在享受科技進步帶來高度便利的同時，減少科技帶來的風險，讓負面影響降到最小。