| 近年來，「生成式人工智慧」（ Generative AI ，簡稱 GenAI ）工 具迅速發展，為社會帶來許多新的機會和改變；同時，「深偽技 術」（ Deepfake ）也逐漸成熟，這些技術改變了我們原本獲取知 識、傳播訊息和創造內容的方式，但也增加了許多使用上的風險。 為了幫助學生提升「生成式人工智慧」工具使用素養，理解使用的 倫理原則，善用相關技術並避免造成誤用或濫用，同時能在家長或 學校老師的指導與同意下遵守各工具年齡分級與帳號申請規範，提 供以下注意事項作為使用參考。 一、覺察「生成式人工智慧」產生的內容可能存在偏誤 「生成式人工智慧」工具的資料來源是歷史紀錄，如果這 些資料本身具有成見或錯誤，那麼使用「生成式人工智慧」工 具的結果也會存在偏差或錯誤，因為這些工具無法自行判斷結 果的正確性和合理性。 所以我們在使用「生成式人工智慧」工具時，應該仔細檢 視內容，並以批判性思考判斷其是否公平、全面或具有偏見， 遇有疑慮應向老師或家長詢問，不宜直接採信或用於作業、報 告或公開發表的內容。 二、檢核內容並結合多元管道查證 「生成式人工智慧」工具的資料會受到其來源的影響。如 果資料不夠多元、廣泛，那這些工具產生的結果可能只會呈現 單一文化的知識，造成知識量嚴重性不足，不僅正確性堪慮， 甚至會讓人產生偏見。 所以當我們在使用「生成式人工智慧」工具時，不能全盤 接受生成的內容，而需結合其他可靠來源的知識和批判性思維 進行查證，並留意其中是否涉及文化刻板印象或不公平的描 述，如對內容仍有疑慮，應向老師或家長請教，不可以直接將 生成內容作為作業或報告的原始答案。 2 三、發現「深偽技術」會產生不實的內容 Deepfake 是能修改臉部影像的「深度偽造技術」，原理是使 用「生成式人工智慧」創建虛假的內容。這項技術能利用既有 的圖片、影像或聲音素材，製造出看似真實的影片和圖像，甚 至假新聞。 所以當我們在觀看網路內容時，不要輕易相信未經審核的 影片或照片，並留意這些內容是否由深偽技術合成，和判斷可 能的目的與動機，也要尊重他人的肖像權與隱私，不轉傳、下 載或散布可能由深偽技術合成的影片或圖片。 此外，如果不幸發現自己或他人遭到深偽技術（如 AI 換 臉）製作不當的性影像，請不要害怕，這不是你的錯。請記得 先截圖保留證據，並向「衛生福利部性影像處理中心」線上申 訴（ https://siarc.mohw.gov.tw ），由專業單位協助移除下架，切 勿轉傳造成二度傷害。 四、養成保護個資與尊重隱私的習慣 部分「生成式人工智慧」工具的資料在取得、儲存和使用 上都還沒有完備的法令、規範及倫理上的監管機制。因此，在 使用這些工具時，提供的個人資料、敏感訊息及機密數據，都 可能會被收錄到訓練資料庫中，作為未來回應他人的內容。 所以我們在使用「生成式人工智慧」工具時，應該審慎評 估提供的資訊，是否具有機密性、隱私性與敏感性，以保護個 人與組織的隱私與機密。 五、遵守「生成式人工智慧」服務使用規範 中小學學生使用「生成式人工智慧」工具應遵守各平臺註 冊年齡限制及相關規範。 建議中小學學生使用為教育目的而設計的「生成式人工智 慧」工具，如教育部因材網生成式 AI 學習夥伴 e 度、酷英網 EBOT 、均一教育平臺或 CK-12 Flexi 等生成式的教育工具，在校 應於教師引導或指導下使用，若為非在校使用，亦請家長陪伴 使用。 本注意事項建議使用上述生成式的教育工具，主因其具備 三大守護功能：它是能引導思考而非直接給答案的「智慧導 師」（ Cardoso-Silva, J., 2024; OECD, 2026; Sal Khan, 2024 ）；它 是「安全過濾網」，能阻隔偏誤訊息並提供可靠教材（ MIT 3 Sloan Teaching & Learning Technologies, n.d.）；它更是保護個資 並記錄學習歷程的「隱形盾牌」（ UNESCO, 2023 ）。考量科技 變動快速，本注意事項僅列出本部建置或具公益性之平臺；若 需使用其他商用版的「生成式人工智慧」工具，應經由學校評 估資安風險，並在師長指導下審慎使用。 六、遵守倫理與誠信使用原則 （一）生成式人工智慧是協助學習的工具，不能取代自己的思考與 判斷，應先自行閱讀與思考，再視需要使用工具輔助。 （二）使用「生成式人工智慧」工具時，應尊重他人的權利與尊 嚴，不得輸入或產生含有歧視、霸凌、仇恨或不尊重他人之 內容。 （三）不可以將自己或他人的姓名、照片、聯絡方式、住址、學號 等個人資料，或家庭、學校的機密資訊輸入至「生成式人工 智慧」工具。 （四）完成作業或報告時，如依老師或學校規定使用「生成式人工 智慧」工具協助構思或潤飾，應依規定註明所使用的工具及 用途，不得將生成內容直接當作自己原創作品繳交。 （五）遵守學校訂定之資訊倫理與學術誠信規範，不得使用「生成 式人工智慧」工具從事抄襲、代寫、作弊或其他違反校規與 法令之行為。 所以我們在使用「生成式人工智慧」工具時，應該審慎評估提 供的資訊，是否具有機密性、隱私性與敏感性，以保護個人與組織 的隱私與機密。 生成式人工智慧技術的發展，為我們的生活帶來了許多便利， 並廣泛運用在各種情境中，卻也伴隨著一定的風險和挑戰。在這個 數位時代，我們應該： 1. 保持對資訊來源保持的高度警覺。 2. 不要輕易相信未經證實的訊息。 3. 學會如何辨別虛假資訊。 同時，我們要提升自己思辨的能力： 1. 批判性地分析和評估生成式人工智慧工具所產生的內容，避免 被誤導，並留意其中是否包含偏見或文化刻板印象。 2. 遵守相關的道德和法律規範（例如：尊重智慧財產權），確保 使用「生成式人工智慧」工具時不違反社會常規與資訊倫理， 4 並遵守學術誠信，不將生成內容直接作為個人原創作業。 最後，我們應該加強自己的數位素養能力，才能在享受科技進 步帶來高度便利的同時，減少科技帶來的風險，讓負面影響降到最 小，並以負責任的態度善用「生成式人工智慧」工具。 |
02-23 「原子能科普教育及實驗操作」研習課程...
電子書下載(限校內)
