互聯網日漸流行,發生在互聯網上的罪案越來越多,世界各國都採取措施,防範網上罪案的發生。其中包括採用人工智能的電腦識別系統,來封殺有問題的內容。可是,萬一設計不周,人工智能就會變成人工低能,令人貽笑大方。
最近一宗內地新聞,引發網民關注MSN的識別系統的低能。根據上海《東方早報》(同香港《東方日報》完全無關)報導,內地網民陳先生早前把未滿月的兒子生活照片上傳至MSN共享空間,因為其中三張照片含有嬰孩赤裸身子,被指不雅遭封殺,其帳戶被封鎖。
MSN解釋,由於要打擊兒童色情活動,只要系統識別到相片中有兒童裸體,不論是否色情,均一律封鎖帳戶,以示懲戒。而有內地網民表示,只要上傳照片裡的皮膚顏色超過圖片面積的30%,就會被識別系統當作為裸照。
事件曝光以後,內地網民關注事件。有支持MSN做法的網友認為,MSN此舉既照顧個人私隱,也有助保護兒童;反對者則認為MSN因噎廢食,索性封殺埋動物照片好了。
世界各國均認為兒童是需要受保護,免受侵犯,而網上兒童色情活動猖獗,每年有數以萬計的兒童受害,令世界各國政府擔心。大型網絡平台被指責有孌童僻用作哄騙兒童的平台,實在責無旁貸。所以,大型網絡平台均採取措施封殺兒童色情照片和異常網絡交流活動,有些更與當地警方合作,打擊兒童色情。
有些網絡平台設計自動圖片識別系統,根據照片上的皮膚顏色和身體特徵來判斷是否色情照片。本來這個方法節省大量人手,有效減少色情照片,也可以減少開支。可是,人工智能無論如何先進,均沒可能100%完全準確。系統只能辨別皮膚顏色是否佔去照片很大比重,或者是否有性徵在照片裡面,但不能夠判斷照片裡的人體動作是否淫褻,更不能判斷照片的拍照情景,究竟是家庭生活照,醫學圖片,還是引起性興奮的色情照片,這些還是需要真人作客觀的判斷。否則,人工智能系統設計得多麼的高能,得出來的結果是大頭照片當作色情圖片,醫學研究圖片當作色情圖片,是多麼的人工低能,甚至弱智。
再說回是次事件,一個爸爸抱著赤裸未滿月兒子的照片,正常人都知道這是一張生活照片,半點色情都沾不上。若果有讀者閱畢這張照片,引起性反應,這個人根本是變態,與照片本身完全無關。是次事件,反映出供應商的圖片識別系統系統的低能。
雖然自動圖片識別系統是有需要存在,但仍然需要人工辨認,來判斷色情與否。網絡供應商對待色情照片,當然要殺無赦,但執行之前,應該由人作最後判斷,不要過份機械式的封殺。
延伸閱讀:
網易跟帖 - 3張寶寶生活照招來MSN封殺
占占字起 - MSN BB 裸照風波























