Google нәсілшілдік кескінді тану алгоритмдерін өшіру арқылы «түзетілді».

Сонау 2015 жылы бағдарламалық қамтамасыз ету жөніндегі инженер Джеки Алсин жұртшылыққа Google Photos қолданбасындағы кескінді тану алгоритмдері дұрыс жұмыс істемейтінін және африкалық американдықтарды «гориллалар» қатарына жатқызатынын айтқан. Google өз кезегінде қолданушылардың ренжіткен сезімі үшін кешірім сұрап, қатені түзетуге уәде берді. Бірақ іс жүзінде Google үш жыл бойы ештеңе істемегені белгілі болды. Компания өзінің беделіне қауіп төндірмеу үшін гориллаларды тану алгоритмін өшірді.

Сәлден соң Wired-тен хабарлама келді. Олардың күш-жігерінің арқасында сервиске әртүрлі приматтардың он мыңдаған фотосуреттерін жүктеп салу арқылы Google Photo алгоритмдерін сынау жүргізілді. Олардың ішінде: бабундар, гиббондар, маймылдар, гориллалар және шимпанзелер болды. Жануарлардың алғашқы үш категориясы дұрыс анықталды, бірақ гориллалар мен шимпанзелерге келетін болсақ, олардың идентификациясы жоқ болатын. Сондай-ақ, сынақ барысында Google нәсілшілдік сұраулар үшін AI-ны өзгерткені анықталды. Мысалы, «қара адам» немесе «қара әйел» дегенді іздегенде, жынысы бойынша сұрыпталған ақ-қара киімдегі адамдардың фотолары көрсетілген.

Google өкілі Wired компаниясының примат санаттарына қатысты жүргізген сынақтарының нәтижелерін растап, олардың бұғатталғанын хабарлады. Өкілдің айтуынша, кескінді тану технологиясы кемелден алыс екені белгілі болды. Ал блокталған санаттар Cloud Vision API және Google Assistant сияқты Google қызметтерінде әлі де қолжетімді.

Коммерциялық алпауыт Google бұл мәселеге жақсы шешім таппағаны таңқаларлық болып көрінуі мүмкін. Бірақ бұл қате AI әлі әзірленуде және сарапшылар тобымен сыналмаған кезде үйретудің қаншалықты қиын екенін жақсы еске салады.

Google алгоритмдерін жақсарту үшін болашақта не істейтіні белгісіз, өйткені оларда кемшіліктер жеткілікті және оларды жою үшін шұғыл шаралар қажет.

Джерело: theverge.com