Бірқатар компаниялар, соның ішінде Microsoft і Facebook, тіпті Оңтүстік Калифорния университетінің зерттеушілері терең фейкпен күресу және олардың сары ақпарат құралдары мен жалпы жалған ақпарат арқылы таралуын болдырмау үшін технологияларды әзірлеуде. Дегенмен, бір топ ғалымдар оларды әлі де алдап үлгерді.
Сан-Диегодағы Калифорния университетінің компьютерлік ғалымдар тобы әрбір бейне кадрға «бәсекелес мысалдар» деп аталатын кіріс деректерін енгізу арқылы бар терең фейкті анықтау жүйелерін әлі де алдауға болатынын ескертті. Ғалымдар өткен айда онлайн режимінде өткен WACV 2021 компьютерлік көру конференциясында өз нәтижелерін ұсынды.
Бәсекелес мысалдар - машиналық оқыту үлгілері сияқты жасанды интеллект жүйелерінің қателесуіне әкелетін сәл өзгертілген кірістер. Сонымен қатар, топ бейнені сығымдағаннан кейін шабуыл әлі де жұмыс істейтінін көрсетті. Жоғарыдағы бейнеде ғалымдар XceptionNet, терең фейк детекторы бәсекелес бейнені «шынайы» деп белгілейтінін көрсетеді.
Бұл детекторлардың көпшілігі бейнедегі беттерді бақылау және кесілген бет деректерін талдау үшін нейрондық желіге жіберу арқылы жұмыс істейді. Содан кейін нейрондық желі бұл деректерді талдайды және әдетте терең фейктерде нашар шығарылатын элементтерді табады, мысалы, жыпылықтау.
Бәсекелес мысалдарды енгізу арқылы зерттеушілер бұл терең жалған детекторларды бейнелердің шынайы екеніне сендіретінін анықтады.
Олар мақалада «осы терең жалған детекторларды іс жүзінде пайдалану үшін оларды осы қорғанысты білетін және оны әдейі бұзуға тырысатын бейімделгіш қарсыласқа қарсы бағалау маңызды. Егер шабуылдаушы детектор туралы толық немесе тіпті ішінара хабардар болса, біз терең фейкті анықтаудың заманауи әдістерін оңай айналып өтуге болатындығын көрсетеміз».
Бұл ғалымдар көрсеткендей, жалған ақпаратпен күресу үшін әзірленіп жатқан автоматтандыру технологиялары әлі де талапқа сай болмауы мүмкін.
Сондай-ақ оқыңыз: