人工智能正深刻重塑教育生態(tài)，推動(dòng)智慧教育的蓬勃發(fā)展。師生教學(xué)行為數(shù)據(jù)的匯聚、學(xué)習(xí)過(guò)程的精準(zhǔn)畫像、教育決策的智能優(yōu)化……人工智能在方方面面為教育變革注入新的驅(qū)動(dòng)力。然而，在人工智能賦能教育的同時(shí)，也須謹(jǐn)慎看待其帶來(lái)的一系列倫理挑戰(zhàn)。為厘清人工智能教育應(yīng)用的倫理風(fēng)險(xiǎn)及其影響，2024年6月17日至27日，由楊俊鋒老師帶領(lǐng)的杭州師范大學(xué)經(jīng)亨頤教育學(xué)院“AIED倫理先鋒隊(duì)”調(diào)研團(tuán)赴臨平實(shí)驗(yàn)中學(xué)、杭州市文新小學(xué)、競(jìng)潮小學(xué)和開悅幼兒園等校園進(jìn)行實(shí)地調(diào)研，通過(guò)教學(xué)現(xiàn)場(chǎng)觀摩、問(wèn)卷調(diào)查、半結(jié)構(gòu)化訪談等多元研究方法，深入了解人工智能技術(shù)在教學(xué)一線的應(yīng)用現(xiàn)狀、引發(fā)的倫理困境以及教師對(duì)倫理風(fēng)險(xiǎn)的看法，保障未來(lái)人工智能教育應(yīng)用向善發(fā)展。
 
前期準(zhǔn)備，夯實(shí)基礎(chǔ)
實(shí)踐伊始，調(diào)研團(tuán)做了一系列充分準(zhǔn)備工作以確保調(diào)研的順利進(jìn)行。首先，團(tuán)隊(duì)成員與指導(dǎo)教師召開團(tuán)隊(duì)會(huì)議，明確調(diào)研主題為“人工智能教育應(yīng)用倫理風(fēng)險(xiǎn)與對(duì)策研究”，并制定調(diào)研計(jì)劃。團(tuán)隊(duì)成員為了與一線教師探討對(duì)人工智能倫理風(fēng)險(xiǎn)及其成因的認(rèn)識(shí)與看法，梳理了人工智能教育應(yīng)用可能引發(fā)的“算法偏見”、“算法黑箱”、“學(xué)生人格標(biāo)簽化”等典型倫理風(fēng)險(xiǎn)，并將其制作為圖文手冊(cè)，設(shè)計(jì)了訪談提綱。此外，為調(diào)查目前不同學(xué)段師生倫理風(fēng)險(xiǎn)規(guī)避能力現(xiàn)狀，調(diào)研團(tuán)還設(shè)計(jì)了相關(guān)調(diào)查問(wèn)卷以便于針對(duì)性地提高他們的倫理風(fēng)險(xiǎn)規(guī)避能力。
實(shí)地考察，了解實(shí)況
調(diào)研團(tuán)走訪了杭州市多所中小學(xué)校和幼兒園，通過(guò)線上聯(lián)系與現(xiàn)場(chǎng)觀摩等方式，深入了解人工智能技術(shù)在不同學(xué)段、不同區(qū)域?qū)W校的應(yīng)用情況及現(xiàn)存問(wèn)題。調(diào)研結(jié)果顯示，目前人工智能在校園中的應(yīng)用涵蓋了“教”、“學(xué)”、“管”、“評(píng)”等場(chǎng)景。保俶塔申花實(shí)驗(yàn)學(xué)校采用了“智學(xué)網(wǎng)”進(jìn)行教學(xué)評(píng)價(jià)、教學(xué)管理、教學(xué)指導(dǎo)、學(xué)情分析等；行知小學(xué)使用“一起作業(yè)”軟件組卷和生成智能作業(yè)分析報(bào)告等。為進(jìn)一步了解嬰幼兒教育階段的人工智能應(yīng)用，調(diào)研團(tuán)實(shí)地探訪了開悅幼兒園，了解到其設(shè)立的“未來(lái)兒童駕駛艙”可記錄兒童出勤、閱讀等數(shù)據(jù)，賦能兒童成長(zhǎng)。
總的來(lái)看，從幼兒園到中學(xué)，人工智能正潛移默化地重塑著教與學(xué)的方式。這一發(fā)展態(tài)勢(shì)一方面彰顯了人工智能賦能教育變革的巨大潛力，預(yù)示著智慧教育的光明前景；另一方面也昭示我們必須未雨綢繆，在人工智能大規(guī)模進(jìn)入校園之際，嚴(yán)密審視并有效應(yīng)對(duì)其可能引發(fā)的隱私泄露、算法偏見、過(guò)度依賴等一系列倫理挑戰(zhàn)，以教育者的慧眼和仁心守護(hù)好每一位學(xué)生的健康成長(zhǎng)。
  訪談交流，共話未來(lái)
為深入了解一線教師對(duì)人工智能教學(xué)應(yīng)用的切身感悟以及對(duì)未來(lái)人工智能應(yīng)用可能引發(fā)的倫理風(fēng)險(xiǎn)的看法，調(diào)研團(tuán)走近文新小學(xué)、競(jìng)潮小學(xué)、臨平區(qū)實(shí)驗(yàn)中學(xué)等學(xué)校，與一線教師進(jìn)行了深度訪談。“AI判卷時(shí)有時(shí)會(huì)犯錯(cuò)，還搞不清楚判題依據(jù)，這可如何是好？”“這些人臉識(shí)別的數(shù)據(jù)如果被泄露對(duì)學(xué)生來(lái)說(shuō)會(huì)很嚴(yán)重”“學(xué)生如果直接抄AI生成的內(nèi)容，這個(gè)問(wèn)題還是很嚴(yán)重的，值得關(guān)注”，教師坦誠(chéng)表達(dá)了對(duì)“算法黑箱”“隱私泄露”“學(xué)術(shù)不端”等風(fēng)險(xiǎn)的擔(dān)憂，同時(shí)也發(fā)表了對(duì)這些風(fēng)險(xiǎn)的成因的看法，如“收集信息太多會(huì)加重隱私泄露的風(fēng)險(xiǎn)”“如果人工智能在情感方面設(shè)計(jì)的比較冰冷，可能會(huì)造成學(xué)生情感缺失”……一線教師們的真知灼見為我們深入剖析人工智能教育應(yīng)用面臨的倫理挑戰(zhàn)提供了寶貴的啟示。
調(diào)研團(tuán)成員也與教師們分享了一些人工智能教育應(yīng)用案例，例如對(duì)學(xué)生使用的可以監(jiān)測(cè)注意力的“檢測(cè)頭環(huán)”、記錄舉手與低頭次數(shù)的“人臉識(shí)別教室”等應(yīng)用，教師認(rèn)為過(guò)度收集數(shù)據(jù)可能對(duì)學(xué)生身心健康發(fā)展產(chǎn)生負(fù)面影響，誘發(fā)學(xué)生焦慮和被監(jiān)視感。此外，對(duì)于一些可記錄教師上課行為與板書的教學(xué)應(yīng)用，教師認(rèn)為其雖然在一定程度上有助于教學(xué)改進(jìn)，但同時(shí)也表達(dá)了對(duì)“自由受限”的憂慮，引發(fā)了大家對(duì)尋求人工智能教育健康發(fā)展路徑的思考。
因此，如何在智能化發(fā)展和師生福祉之間找到平衡點(diǎn)，已然成為教育界、學(xué)術(shù)界、企業(yè)亟需共同思考的問(wèn)題。
在復(fù)雜多變的教育情境中，人工智能需要不斷發(fā)展以適應(yīng)更高的要求。此次調(diào)研為深入剖析人工智能教育應(yīng)用面臨的倫理挑戰(zhàn)提供了寶貴的一手素材和理論視角，唯有直面挑戰(zhàn)，審慎對(duì)待，在實(shí)踐探索中不斷積累經(jīng)驗(yàn)，才能保障人工智能教育應(yīng)用行穩(wěn)致遠(yuǎn)，為教育現(xiàn)代化建設(shè)貢獻(xiàn)更多智慧力量。
調(diào)研團(tuán)表示，將以此次調(diào)研為起點(diǎn)，繼續(xù)扎根教學(xué)一線，致力于推動(dòng)人工智能教育應(yīng)用健康有序發(fā)展。未來(lái)，他們還將走訪更多中小學(xué)校，力求為不同學(xué)段的智慧教育實(shí)踐積累更加全面、立體的經(jīng)驗(yàn)材料。相信通過(guò)各方的通力合作，定能推動(dòng)人工智能以更加智慧、負(fù)責(zé)任的方式融入教育，更好地服務(wù)于育人的初心使命。
 
（作者 陳睿寧 沈中奇）