黎明技術學院生成式人工智慧使用規範與指引

113 學年度第1 學期第七次行政會議通過(113/11/12)

本規範的目的是為了引導黎明技術學院的教職員及學生在使用生成式人工智慧（Generative AI）工具時，能夠有效且安全地利用這些新興技術，以促進教學、研究及行政管理的效率，同時確保使用過程中的道德標準、數據隱私及學術誠信。

一、前言與目標

隨著生成式人工智慧（AI）技術的快速普及，越來越多的師生使用這些工具來進行學習和創作。生成式AI技術，如大型語言模型及視覺藝術創作工具，可以根據特定條件與需求，生成各式內容，從而改變了傳統的學術研究、教學方式及學習模式。然而，這些技術也伴隨一些潛在風險和挑戰，例如資訊正確性、資料安全性及智慧財產權保護等。

因此，如何在教育領域中有效應用生成式AI技術，同時避免相關風險，幫助師生負責地使用生成式AI技術，促進其在教育領域的健康和可持續發展，是本指南制定的主要目的。我們希望確保學生及教職員能在使用這些創新工具時，遵守倫理規範，維護學術自由，促進創新，並發揮生成式AI的教育價值。

二、定義與主要特徵

（一）定義

生成式人工智慧（AI）是一種根據使用者的需求和條件自動生成新內容的技術，透過機器學習來辨識和模擬特定的資料模式和風格。該技術能依據輸入的訊息或條件生成多種形式的內容，包括文字、圖片、影音、聲音等，不僅能創造全新的內容，還能對現有資料進行改編或轉化。生成式AI的核心優勢在於其創造力，能從有限的資料中產生出多樣化的結果。通常，它結合了先進的機器學習和深度學習技術，以達到這些生成和應用的功能。

（二）主要特徵

生成式AI的主要特徵包括以下幾點：

1. 多樣化的產出：生成式AI能夠根據不同的輸入條件和資料集，自動生成多樣化的內容輸出。無論是從零創作全新內容，還是改編和提升現有資料，它都能靈活應對。它還具備適應不同語言、文化、使用者背景和情境的能力，從而創造報告、翻譯、對話、建議及反饋等各類輸出。
2. 動態性調整力：生成式AI可與使用者進行動態互動，根據使用者提供的特定輸入及需求進行調整，生成精確符合需求的內容。透過與使用者的對話，AI能夠理解其意圖並進行即時調整，提升輸出內容的準確性和相關性。
3. 廣泛適用性：生成式AI可應用於教育、內容創作、數據分析等多個領域，幫助製作教學材料、制定個性化學習計畫、創作藝術作品，或是進行數據整理和分析，適應各類專業和學術需求。
4. 自我學習能力：生成式AI透過不斷的資料訓練和學習，可以逐漸優化自身的生成能力和準確性。隨著使用者輸入的增加和改正，它能適應新的資料模式和需求，提高生成內容的品質。
5. 輔助創意潛力：生成式AI能以原有資料為基礎，進行創意延伸和設計，發展出不一樣的風格和形式。這使得它在藝術創作、產品設計、文案撰寫等創意領域有著豐富的應用潛力，成為輔助創作的重要工具。

（三）潛在風險

儘管生成式AI具有高應用價值，但也潛藏若干風險：

1. 資訊不確定性：生成式AI可能生成錯誤或虛假的資訊，影響資料的可靠性和品質。例如，AI可能產生不實報導、錯誤數據或誤導性評論，進而引發公眾誤解或混淆，甚至在關鍵決策中導致嚴重後果。
2. 個人資料安全隱患：AI在處理和生成內容時，可能暴露或偽造個人隱私資料，如身份證號碼、信用卡資訊或個人照片等，威脅個人隱私權和安全。此外，這些資料若被不當使用，可能導致身份盜竊或其他犯罪行為。
3. 智慧財產權風險：AI生成的內容可能未經許可地使用或複製他人的作品，如文章、圖片、音樂或設計等，進而侵犯智慧財產權。此外，若他人利用AI生成的內容進行商業用途，也可能面臨法律責任，對原創者構成損害。
4. 倫理和社會問題：生成式AI可能產生不符合道德或社會規範的內容，例如涉及暴力、色情、仇恨言論或歧視的材料。這些內容不僅可能引起爭議或社會衝突，還可能對特定族群或個體造成心理傷害，破壞社會和諧。
5. 偏見與公正性挑戰：AI模型依據訓練資料進行學習，若資料中含有偏見，生成的結果也可能存在不公平或歧視的現象。例如，在教育體系的評估系統中，AI可能根據過去的成績資料偏向特定學校的學生，導致這些學生在獎學金或升學推薦中獲得較高評價，而忽略了其他來自不同學校但具有相同性能的學生，從而影響教育機會的公平性。

三、生成式AI在教學、研究與學習的應用指引

(一)教學應用指引

1. 課程設計與教學準備：教師可利用生成式AI工具協助設計課程內容，例如自動生成教學大綱、教材、課程投影片等，以減少準備時間並提升教學內容的多樣性和創新性。
2. 課堂互動與學生支持：生成式AI可用於課堂上的互動，例如通過對話機器人輔助回答學生問題，增強課堂的參與度。教師也可以利用生成式AI幫助學生進行課後輔導，提供個性化的學習建議。
3. 教學評量：生成式AI工具可以用來輔助評量學生的學習成效，例如根據學生的回答自動生成評語，或利用AI來設計多樣化的評量問題，確保評量具有針對性和創造性。

(二)研究應用指引

1. 研究構想與文獻調查：研究人員可利用生成式AI協助構思研究問題，並進行相關文獻的彙整與分析。生成式AI能夠自動生成文獻摘要，幫助研究人員迅速掌握研究領域的現狀和趨勢。
2. 數據處理與分析：在處理大量研究數據時，生成式AI可以幫助進行資料清理、資料標註及分析，提升研究效率。例如，自動分類或標註研究數據，生成數據的視覺化圖表等。
3. 學術寫作：生成式AI可協助撰寫學術文章的初稿，提供語言潤飾、格式化建議，並生成參考文獻的引用格式。然而，研究人員仍需對AI生成的內容進行審查和修改，以確保其正確性和符合學術規範。

(三)倫理與責任

1. 教學場景中的透明性：教師在使用生成式AI輔助教學時，應明確告知學生哪些內容是由AI生成的，並強調AI生成內容的參考性，避免學生誤認為AI生成的內容為唯一正確答案。
2. 學術誠信：在研究中使用生成式AI時，研究人員應遵守學術誠信，公開生成式AI在研究過程中的使用方式及其生成內容的來源，並對生成內容進行仔細審查，確保其不違反學術倫理。
3. 避免過度依賴：教師和研究人員應鼓勵學生和自己保持批判性思維，避免過度依賴生成式AI工具，確保對生成內容進行分析和驗證，發展自主學習和研究的能力。

（四）風險管理與審慎應用

生成式人工智慧（Generative AI）工具雖然具備提升教學、研究和行政效率的潛力，但其應用也伴隨一些風險，使用者應謹慎評估這些風險，並採取相應的管理措施。風險管理的目的是在保護學術、行政環境安全和隱私的前提下，確保生成式AI的合理應用。以下列出常見風險及其應對策略：

1. 偏差與內容真實性：生成式AI通常基於已知數據進行學習，因此生成的內容可能反映出數據中的偏差。使用時，應保持批判性思維，並檢查信息的來源和真實性。多方資訊驗證，確保生成內容的準確性和全面性，避免單一依賴AI生成的結果作出關鍵決策。
2. 假資訊和不實資訊傳播：生成式AI可能創造出高度逼真的虛假資訊，被當成真實訊息進行傳播，進而誤導他人。使用者在引用時，應明確標註AI生成的部分，並告知相關方生成內容的參考性而非唯一正確答案。此外，使用者應養成核實內容的習慣，避免將未經確認的生成內容直接引用或發布於正式場合。
3. 數據隱私風險：生成式AI需要大量數據進行訓練和推理，部分工具在處理數據時可能涉及個人或敏感資訊，若缺乏妥善管理，可能造成數據隱私洩漏。應優先選用具有嚴格隱私保護措施的生成式AI工具。避免輸入含有個人或機密資訊的內容，並遵循數據最小化原則，減少不必要的數據共享或暴露，確保生成式AI不會學習或保留敏感信息。
4. 依賴性與思維懶惰：過度依賴生成式AI進行資訊生成或決策，可能導致使用者的批判性思維與創造力下降，養成思維懶惰的習慣，甚至影響學術能力的培養。教育使用者將生成式AI作為輔助工具，而非決策的唯一依據。教師應鼓勵學生進行獨立思考和分析，並結合多方資料來源進行判斷，培養自主學習和批判性思維。
5. 智慧財產權和學術倫理：生成式AI工具生成的內容可能涉及版權或智慧財產權的問題，若未妥善管理或引用，可能導致學術誠信問題或違反相關法律。應遵守學術倫理，尊重原始作者的智慧財產權。引用生成內容時應明確註明來源，且不應以AI生成的內容取代原創性工作。教師和研究人員應主動向學生普及版權意識，防止學術不端行為。
6. 最終判斷責任：生成式AI生成的資訊可能被誤用為最終決策依據，而忽視專業人員的判斷，這可能導致不適當的決策或評估錯誤。所有由生成式AI生成的資訊均應經過專業人員的審核，AI生成的建議不應直接用於決策或替代專業的判斷過程。應培養使用者具有審慎態度，將AI生成內容僅作為參考或輔助資訊，避免依賴AI進行關鍵決策。

四、負責任地運用生成式AI

（一）合法使用資源

使用者應確保所引用的資料來源合法，並尊重資料提供者的權益。這不僅能維護知識產權，還能避免法律風險。透過仔細檢查授權狀況，我們能促進良好的學術和創作倫理，保護創作者的勞動成果。

（二）避免抄襲與正確引用

在使用AI生成的內容時，使用者應視其為參考，並進行適當的修改和創新，以遵循著作權和學術標準。這樣能保護原創者的權益，同時提升自身的創作能力。正確引用來源有助於建立誠實的學術環境，促進知識的健康傳播。

（三）文化敏感性與包容性

生成內容時，使用者應考慮不同文化和社會群體的需求，並尊重多元文化，以避免冒犯性或具爭議的內容。這需要對創作的影響有敏感度，並主動了解各種文化觀點。推動文化敏感性能夠創造更包容的學習環境，促進社會的和諧。

（四）輔助工具的角色與批判性思考

使用者需理解AI的優勢與限制，並將其視為輔助工具，保持主動性與創造力。在依賴AI生成的結果時，應批判性地檢視其內容和邏輯。這不僅有助於提升工作效率，還能培養更深刻的分析與思考能力。

（五）持續學習與自我反省

使用者應定期反省自己的使用方式，並隨著技術的進步進行調整。這包括關注生成式AI的最新發展和應用實踐，從而提高自身的運用能力。透過持續學習，使用者能夠更有效地利用AI，並提升自身的創作質量和道德責任感。

參考資料：

1. 行政院及所屬機關（構）使用生成式AI參考指引（草案），網址：https://www.nstc.gov.tw/folksonomy/detail/f9242c02-6c3b-4289-8e38-b8daa7ab8a75?l=ch
2. 財團法人資訊工業策進會，《生成式AI導入指引》，網址：https://www.iii.org.tw/Publish/DownloadPages_download.aspx?dp_sqno=26
3. 國立臺灣師範大學──生成式AI之學習應用及參考指引，網址：https://ctld.ntnu.edu.tw/generative_ai
4. 臺灣學術倫理教育學會，〈人工智慧技術對學術倫理的影響及因應建議〉，網址：https://www.taaee.org.tw/docs/20230223_conclusion_final.pdf
5. 臺灣學術倫理教育資源中心，〈大學校園因應生成式AI之指引及教學建議〉，網址：https://ethics.moe.edu.tw/resource/epaper/html/21/
6. 國立清華大學生成式AI工具教學指引，網址：https://www.nthu.edu.tw/pdf/pdf_168292719796.pdf
7. 臺大針對生成式 AI 工具之教學因應措施，網址：https://www.dlc.ntu.edu.tw/ai-tools/
8. 靜宜大學生成式人工智慧（GEN-AI）使用指引與規範，網址：https://tdcenter.pu.edu.tw/p/412-1061-4972.php?Lang=zh-tw

 

附錄

本附錄提供黎明技術學院教職員和學生在使用生成式人工智慧（Generative AI）工具時的實用案例、資源參考及相關工具，以支持學校成員更高效、合規地應用AI技術，促進教學、研究和行政的創新與優化。

一、生成式AI應用案例

• 教學案例

1. 課程準備：教師利用生成式AI工具自動生成課程教案、課程大綱和教材，例如生成教學投影片、重點摘要等，從而減少準備時間並增加內容的多樣性。
2. 課堂互動：在課堂上，教師可以使用對話型生成式AI工具（如ChatGPT）即時回應學生問題，促進課堂參與度和互動性。
3. 個別輔導：教師可以利用生成式AI為學生提供個性化學習建議，例如推薦額外的學習資源、擬定學習進度，幫助學生更好地掌握學習內容。

(二)研究案例

1. 文獻回顧：研究人員可以使用生成式AI工具輔助文獻回顧，如彙整學術文章的摘要，進行關鍵字搜索，以加速研究前期的準備。
2. 數據處理：生成式AI可協助自動化數據清理、標註及初步分析，並生成視覺化圖表，提升研究數據處理效率。
3. 3. 學術寫作：AI工具可提供學術寫作的建議，包括格式化和語言校正，並輔助生成初步草稿，但研究人員仍應對內容進行審查和修改以確保準確性。
4. 行政應用案例：
   • 文件草擬：行政人員可使用生成式AI輔助草擬會議記錄、行政報告或備忘錄等非機密文書，以減少手動編寫的時間並提高工作效率。
   • 數據分析：AI工具可自動彙整調查結果並生成簡報，協助行政人員進行數據分析，便於校內決策制定。
   • 回應常見問題：生成式AI可用於回應學生或家長的常見問題，提升行政服務效率，但對於複雜或敏感的問題應交由專業人員處理。

二、資源參考

（一）技術資料

1. OpenAI GPT-4：了解生成式AI中大型語言模型的基礎，包含技術簡介及應用範疇。
2. 2. GAN（生成對抗網路）原理：提供GAN架構的概述，包括生成和判別網路如何相互協作生成新內容的過程。
3. 3. Transformer架構概述：解析Transformer架構的自注意力機制及其在生成式AI中的應用，幫助理解模型如何生成上下文連貫的內容。

(二)倫理與合規資源

1. AI應用倫理指導手冊：聯合國教科文組織及歐盟人工智慧法案中的相關倫理原則，包括學術誠信、隱私保護及透明性等規範的說明。
2. 學術倫理指南：教育部學術倫理教育中心所提供的資源，涵蓋學術誠信的基本要求，指導如何避免學術不端行為。
3. 隱私保護指南：政府機構的數據隱私保護建議，幫助AI使用者瞭解如何在應用AI時有效保護個人隱私數據。
   • 風險評估工具

(一)AI風險自評工具

1. 數據隱私檢查表：評估AI應用中數據隱私風險的自我檢查工具，幫助使用者確認是否遵循數據隱私的最佳實踐。

• 1. 生成內容真實性評估工具：該工具幫助評估生成內容的真實性，提示使用者考量生成內容的偏見及潛在的不實信息。
  2. 學術誠信自評工具：一份自我檢查清單，適用於研究人員及學生，用於評估AI應用中的學術誠信風險，確保生成內容不違反學術倫理。

四、 常見問題

(一)問：生成式AI的應用是否會替代人類的創造力？

答：生成式AI作為輔助工具，旨在提高工作效率，增進學習和教學質量，但無法完全取代人類的創造力和批判性思維。使用者應以批判性視角審視AI生成的內容，以確保人類創造力的發揮。

(二)問：如何保護個人資料安全？

答：使用生成式AI時應避免輸入個人或敏感資訊，並確保AI工具符合數據隱私保護規範。若涉及個人數據的應用，應提前獲取當事人的知情同意，並遵循數據最小化原則。

(三)問：如何使用生成式AI進行學術寫作？

答：使用生成式AI輔助學術寫作時，應明確標示AI生成的部分，並對生成內容進行核實。AI可用於草擬初稿或提供格式化建議，但不可代替個人創作，需保留學術誠信。