中小學使用「生成式人工智慧」注意事項(教師、行政人員及家長版)

中華民國 113 年 7 月 1 日臺教資(三)字第 1132702614 號函核定

近年來，「生成式人工智慧」（Generative AI)工具和「深偽技術」(Deepfake)等的蓬勃發展，為社會帶來許多新的機會和改變，這些技術改變了我們原本獲取知識、傳播訊息、創造內容的方式，同時也增加了許多使用風險。為了幫助中小學教師、行政人員及家長提升「生成式人工智慧」工具使用素養，以善用相關技術並避免造成誤用或濫用，提供以下六個要點作為使用參考。

一、理解「生成式人工智慧」工具產生的內容可能有所偏誤：由於用來訓練生成式人工智慧工具的資料來自於既有的紀錄或經驗，如果這些訓練資料本身帶有成見及錯誤，那麼使用生成式人工智慧工具產出的結果就會有偏差或錯誤，且工具本身無法自行判斷所產出的結果是否正確和合理。所以當我們在使用生成式人工智慧工具時，應該檢視與審查其產生的結果，以確保其正確性和合乎常理。

二、理解「生成式人工智慧」工具可能會減少訊息的多樣性：如果用來訓練生成式人工智慧工具的資料受到地域或文化的限制，且不夠多元廣泛，這些工具產生的結果可能僅能呈現單一文化的知識脈絡與觀點，甚至進一步強化原有的偏見。所以當我們在使用生成式人工智慧工具時，應該結合自己的經驗和批判性思維來檢視結果，而不是全盤接受生成的內容。

三、理解「生成式人工智慧」內容的辨識工具僅能作為初步篩檢：隨著生成式人工智慧工具的快速發展，有許多可以協助辨識生產內容的工具。所以我們需要了解這些辨識工具有其限制性，只能作為輔助與參考，仍須仰賴常理、直覺和其他證據來協助辨識內容是否來自於生成式人工智慧工具。

四、察覺「深偽技術」日益逼真會產生不實的內容：深偽技術是能修改臉部影像的深度仿造技術，原理是使用生成式人工智慧工具創建的虛假內容。這項技術能運用既有圖片、影像或聲音等素材，製造出看似真實的影片和圖像，甚至假新聞。所以當我們在觀看網路內容時，不要輕易相信未經審核的影片或照片，並留意該內容是否為深偽技術合成，和判斷可能的目的與動機。

五、意識「生成式人工智慧」工具可能洩漏個人與組織的隱私與機密：部分用來訓練生成式人工智慧工具的資料庫目前在取得、儲存和使用上都還沒有完備的法令、規範及倫理上的監管機制，因此，在使用生成式人工智慧工具時，提供的個人資料、敏感訊息及機密數據，都可能會被收錄

到訓練資料庫中，作為未來回應他人的內容。所以我們在使用生成式人工智慧工具時，應該審慎評估提供的資訊，是否具有機密性、隱私性與敏感性，以保護個人與組織的隱私與機密。

六、避免過度依賴「生成式人工智慧」工具而侵犯智慧財產權與違反學術倫理：使用人工智慧工具生成教案、試題、計畫等相關教學內容時，須謹慎檢視內容及用詞是否符合教育現場的使用規範與標準。所以我們需規範使用生成式人工智慧於學業的時機與方式，並提醒學生使用時可能會侵害他人的智慧財產權，以及有違反學術倫理的疑慮，如沒有提供出處將造成概念上的抄襲。

生成式人工智慧技術的發展，為我們的生活帶來了許多便利，並廣泛運用在各種情境中，卻也伴隨著一定的風險和挑戰。在這個數位時代，我們應該保持對資訊來源的高度警覺，不要輕易相信未經證實的訊息，並學會如何辨別虛假資訊。同時，我們要提升自己思辨的能力，批判性地分析和評估生成式人工智慧工具所產生的內容，避免被誤導。遵守相關的道德和法律規範，確保使用生成式人工智慧工具時不違反社會常規與資訊倫理。最後，我們應該加強自己的數位素養能力，才能在享受科技進步帶來高度便利的同時，減少科技帶來的風險，讓負面影響降到最小。

一、理解「生成式人工智慧」工具產生的內容可能有所偏誤：例如，當我們要求生成式人工智慧工具建議旅遊行程時，如果系統本身的資料庫中沒有該地區的氣候環境、地理位置、社會人文以及文化限制等資料，提供的內容可能來自各種網路遊記文章的綜合體，結果就有可能是一份不順路、充滿非當季活動，甚至包含了虛構景點的行程。

二、理解「生成式人工智慧」工具可能會減少訊息的多樣性：例如，當我們向生成式人工智慧工具詢問法律或文化問題時，這些工具可能會是基於研發者國家的法律和文化習俗產生的答案。好比我們要求人工智慧工具生成一張新娘圖片時，它可能產生一張穿著白紗的西方臉孔女性，而不是根據使用者當地的文化習俗來產出不同膚色或其他婚禮的服飾。

三、理解「生成式人工智慧」內容的辨識工具僅能作為初步篩檢：例如，當我們使用生成式人工智慧內容辨識工具時，可以快速比對兩篇文章或多篇文章的相似程度，但這些比較結果僅能作為參考。要判斷文章是否為文字或概念抄襲，或根本是由生成式人工智慧工具創造的內容，都仍需要個人比對資料、詳細閱讀理解後，才能進行判斷。

四、察覺「深偽技術」日益逼真會產生不實的內容：例如，網路上常有知名人士發表演說或鼓勵投資的影片，面對這些內容，我們必須謹慎且小心求證知識的內容和來源。在深偽技術蓬勃發展的網路環境中，這些影片可能未取得影片主角的同意，或在他們根本不知情的狀況下，被深偽技術整合他們的臉(聲音)到一些完全虛假或有損名譽的影像作品中。

五、意識「生成式人工智慧」工具可能洩漏個人與組織的隱私與機密：例如，當我們不清楚生成式人工智慧工具的原理及規範，以公司個人資料文件或商業機密為題材向這些工具詢問解答，個人或公司文件、機密程式碼便有可能被收錄到這些工具的訓練資料庫中，而當其他的使用者再度詢問類似問題時，生成式人工智慧工具以收錄的資料庫回答問題，就有機會造成個人隱私或公司機密外洩，形成資安漏洞。

六、避免過度依賴「生成式人工智慧」工具而侵犯智慧財產權與違反學術倫理：例如，當我們使用人工智慧工具產生計畫書時，若有些用詞或字句非一般使用的習慣，應進行修正；或用於出題時，應檢視題目的合宜性及答案的正確性。

附錄 2

生成式人工智慧內容辨識工具與特色說明彙整表（舉例）