本文概要:
1. 擔心訓練數(shù)據(jù)集中的偏見會導致少數(shù)族裔承受欺詐、詐騙和虛假信息的壓力。
2. 大部分深度偽造檢測器是基于依賴于用于訓練的數(shù)據(jù)集的學習策略。然而,這些檢測方法并不總是適用于深色膚色的人群。
3. 缺乏對所有種族、口音、性別、年齡和膚色的包容性訓練集可能會導致偏見。
站長之家(ChinaZ.com)8月18日 消息:專家警告說,為應對日益嚴重的深度造假(看起來逼真的虛假內(nèi)容)威脅而開發(fā)的檢測工具必須使用包含較深膚色的訓練數(shù)據(jù)集,以避免偏見。
目前大多數(shù)Deepfake深度偽造檢測器都基于依賴于訓練數(shù)據(jù)集的學習策略,并利用人眼無法察覺的跡象進行檢測,例如監(jiān)測血液流動和心率。
然而,這些檢測方法并不總是適用于深色膚色的人群,如果訓練集中不包含所有種族、口音、性別、年齡和膚色的樣本,就會存在偏見的問題。
專家們擔心這種偏見將會導致對少數(shù)群體進行深度偽造的欺詐、詐騙和虛假信息的增加。為了解決這個問題,深度偽造檢測工具需要使用視覺線索,如血液流動和心率檢測,但由于深色膚色在視頻流中很難提取心率,這些工具對少數(shù)群體的表現(xiàn)會較差。
因此,需要建立新的數(shù)據(jù)集,并使用更具代表性的膚色范圍來訓練機器學習模型,以確保包容性和準確性。然而,目前世界上還沒有規(guī)定相應的監(jiān)管措施,這導致偏見在新技術中仍然存在和復制。
為了解決這個問題,哈佛大學社會學教授兼谷歌客座研究員埃利斯·蒙克 (Ellis Monk) 開發(fā)了蒙克膚色量表。它是一種比科技行業(yè)標準更具包容性的替代尺度,并且將提供比可用于數(shù)據(jù)集和機器學習模型更廣泛的膚色。專家們呼吁建立更具包容性的訓練集和標準化的測量方法,以解決深度偽造檢測工具的偏見問題。
(舉報)