Машиналық көтеріліске жол бермеуге тырысу: жасанды интеллекттің бірінші конституциясы

Калифорнияда қаңтардың 5-і мен 8-і аралығында Жасанды интеллект (AI) технологияларын жасау және дамытуға маманданған профессорлардың, әзірлеушілер мен инженерлердің конференциясы өтті. Төрт күндік белсенді талқылаулар барысында қазірдің өзінде қолданылып жүрген және болашақта қолданылуы тиіс AI принциптерінің тізімі жасалды. Шын мәнінде, адамзаттың соңғы онжылдықтардағы машиналық оқыту саласындағы жетістіктерінің белгілі бір жиынтығы жинақталды.

Жалпы, «Жасанды интеллект» адамның миы мен интеллектімен тікелей байланысты емес. Осы терминнің авторы американдық компьютер ғалымы Джон Маккарти бұл ұғымды былай түсіндіреді: "Мәселе мынада, біз қандай есептеу процедураларын интеллектуалды деп атағымыз келетінін әлі жалпы анықтай алмаймыз. Біз интеллекттің кейбір механизмдерін ғана түсінеміз. Сондықтан, интеллект астында осы ғылымның шегінде әлемдегі мақсаттарға жету қабілетінің есептеу құрамдас бөлігі ғана түсініледі. Бұл туралы 1956 жылы Дартмут университетінде өткен конференцияда айтылды.

Уақыт Маккартидің сөзін растады. Бүгінгі таңда біз өз мақсаттарымызға жету үшін ақпараттық құралдарды пайдаланамыз және әлемді жеңілдету немесе болашақ туралы ойлау туралы идеяларымыз бағдарламалық кодпен көбірек байланысты. Иә, біз сол жұмыстардың идеясын өзгерттік, бірақ олардың барлық жерде болуын мүлде жоққа шығармадық.

Сонымен, барлық 23 құрастырылған «болашақ заңдары» үш топқа бөлінді: ғылыми зерттеу мәселелері, этика мен құндылықтар, технологиялық перспективалар.

Жасанды интеллект Конституциясы

Зерттеу сегменті

1. Жасанды интеллект зерттеулерінің мақсаты - тек тар мақсатты құрылғыны жасау ғана емес, бүкіл қоғам үшін пайдалы.

2. Информатиканың, экономиканың, құқықтың, этиканың, әлеуметтік ғылымның осы сұрақтарына дәлірек және жалпылама жауап беруге мүмкіндік беретін АИ-ге инвестициялар технологияның пайдалылығын қамтамасыз ету бойынша зерттеулер саласына бағытталуы керек:

• AI жоғары сенімділігін қалай қамтамасыз етуге, хакерлердің шабуылдарына сәтті қарсы тұруға және ақауларды оңай болдырмауға болады?
• Ең аз ресурстарды жұмсай отырып, автоматтандырудың көмегімен қалаған мақсатқа қалай жетуге болады?
• АИ пайда болуын ескере отырып, қазіргі заманғы канон бойынша әділеттілікті қамтамасыз ететін құқықтық жүйені қалай сауатты жаңартуға болады?
• AI қандай құқықтық және этникалық мәртебе алады?

3. Зерттеушілер мен саясаткерлердің конструктивті және тең құқылы өзара әрекетін қамтамасыз ету.

4. АИ одан әрі пайдалану үшін мәдени жетістіктердің толық ашықтығы мен ашықтығы.

5. Өткір бәсекелестікке жол бермеу үшін AI зерттеушілерінің өзара әрекеттесуі және ынтымақтастығы.

Моральдық құндылықтар

6. Жасанды интеллект жүйелері барлық пайдалану кезеңінде қауіпсіз және сенімді болуы керек.

7. Мәселелердің себептерін және оларды кейіннен жоюды мүмкіндігінше тезірек анықтау.

8. Дербес жүйенің сот шешімдеріне кез келген араласуы комиссияның құзыретті мүшесі (адам) тексерген жағдайда рұқсат етілуге ​​және хабарлануға тиіс.

9. Жобалау немесе бағдарламалық жасақтаманың қателігінен туындаған зиян, қасақана қауіпті жағдайды жасау үшін жауапкершілік әзірлеушілер мен инженерлердің мойнында.

10. Барлық дербес AI жүйелері жалпы адамзаттық құндылықтарды білуге ​​ұмтылуы керек.

11. Жасанды интеллект адам қадір-қасиеті, құқықтары, бостандықтары және мәдени әртүрлілік идеалдарымен үйлесімді түрде жобалануы және пайдаланылуы тиіс.

12. Адамның АИ пайдалану процесінде қалыптастырылған ақпарат болашақта сол адамға қолжетімді болуы керек (нәтижелер мен жиналған деректерді басқару мүмкіндігі).

13. Жеке деректермен жұмыс істеу кезінде АИ адамдардың нақты немесе ойдан шығарылған еркіндіктерін негізсіз шектемеуі керек.

14. Жасанды интеллект технологиялары мүмкіндігінше көп адамдарға пайдасын тигізуі және қолжетімді болуы керек.

15. АИ-нің экономикалық және әлеуметтік жетістіктері жаһандық және адамзат игілігіне бағытталуы керек.

16. Адамда әрқашан таңдау бар: өз бетінше шешім қабылдау немесе оны АИ-ге тапсыру.

17. Жасанды интеллекттің мақсаты – бүліну мен апат әкелмей, қоғамды жақсарту және байыту.

18. Қару-жарақ жарысында AI технологиясын пайдалану ықтималдығы нөлге дейін төмендеуі керек, шын мәнінде, қарулы бәсекелестік те тоқтауы керек.

Ұзақ мерзімді мәселелер

19. Ресурстарды ұтымсыз жұмсамау үшін AI мүмкіндіктерінің шегін мұқият бағалауымыз керек.

20. АИ дамуы қарқынды болады, сондықтан технология қайтымсыз реакцияларды тудырмас үшін бақылауда болуы керек.

21. Тәуекелдер, әсіресе ауқымды тәуекелдер ықтимал шығындарды барынша азайтуды қамтамасыз ететіндей етіп жоспарлануы тиіс.

22. АИ жүйелері өзін-өзі дамытуға және өзін-өзі жаңғыртуға қабілетті, бұл АИ қызметі сапасының нашарлауын тудыруы мүмкін, сондықтан негізгі көрсеткіштерге жүйелі бақылау жүргізілуі тиіс.

23. Superintelligence - бұл қандай да бір жеке ұйымға немесе мемлекетке бағынбай, бүкіл адамзаттың игілігі үшін қызмет ететін және қызмет ететін технология.

Сондай-ақ оқыңыз: Hyperloop: Вакуумдық пойыз жарысы туралы не деуге болады?

Баяндаманың негізгі тезистерін қысқаша еске түсірейік. Мамандар АИ қарқынды дамып келе жатқан кезде өздерінің артта қалуына алаңдайды, сондықтан олар технологияны абсолютті бақылауды қамтамасыз етуге тырысады. Жасанды интеллекттің жаһандық қоғамдық құндылығы және оның адамзат мәдениетіне кірігуі де бірнеше рет атап өтіледі. Дегенмен, бұл жоспардың жүзеге асатынын жақын арада анықтайтын боламыз. Жасанды интеллект күшікке ұқсайды, қазір ол жүгіреді, ойнайды, бірақ соңында оның қандай ит болатыны ең алдымен иелеріне байланысты.

Қазіргі уақытта бұл «заң жобасы» Жер тұрғындарының мақұлдау сатысында, сондықтан қауіпсіз, бақытты және технологиялық болашақты қаласаңыз, өзіңізді еркін сезініңіз».дауыс” осы абсолютті ақылға қонымды және қажетті принциптерді қабылдағаны үшін.

Тьюринг сынағы және жасанды интеллект

Ұлы математик Алан Тьюринг те AI технологиясымен айналысқан, сондықтан ол өте қызықты тест ойлап тапты. Тьюринг сынағы алғаш рет 1950 жылы Mind философиялық басылымындағы «Есептеу машиналары және ақыл-ой» мақаласында ұсынылған. Тесттің идеясы - машиналық ойлаудың мүмкіндіктерін және жалпы оның бар болуын анықтау.

Стандартты интерпретация келесідей: «Адам бір компьютермен және бір адаммен қарым-қатынас жасайды.Сұрақтарға жауаптар негізінде ол кіммен сөйлесетінін анықтауы керек: .. Адаммен немесе компьютерлік бағдарламамен. Компьютерлік бағдарламаның міндеті – адамды қате таңдауға мәжбүрлей отырып, адастыру». Барлық қатысушылар бірін-бірі көре алмайды және байланыс тест форматында жүзеге асады, өйткені тесттің мақсаты сөйлеуді тану құрылғысының техникалық мүмкіндіктерін тексеру емес, адамның ойлауына еліктеу қабілетін тексеру.

Хат алмасу да «судья» жауаптардың жылдамдығына қарай қорытынды жасай алмайтындай бақыланатын аралықтарда жүргізіледі. Бір қызығы, бұл ереже осы сынақты жасау кезінде компьютерлер адамға қарағанда баяу әрекет ететіндіктен ойлап табылды, қазір бұл қажет, өйткені қазір адам артта қалады.

Сондай-ақ, осы тест негізінде әңгімелесушілердің жынысын анықтау үшін ұқсас тест жасалды. Төреші рөлінде С ойыншысы А және В ойыншыларымен, шын мәнінде ер және әйелмен сөйлесуі керек.

Жасанды интеллект туралы бір зерттеу жұмысы келесідей түсініктеме берді: «Енді біз: «Егер машина осы ойында А ойыншысының рөлін атқарса не болады?», ойын осылай ойналғанда, егер сынақ адамға қатысты болса, жүргізуші қате шешім қабылдай ма деп сұраймыз. әйел? Бұл сұрақтар біздің түпнұсқаны ауыстырады: «машиналар ойлай алады»».

Яғни, бір мүлде қиын сұрақтың орнына біз оңайырақ сұрақтарға жауап береміз және оны дәйекті түрде жасаймыз, осылайша Жасанды интеллекттің ақыл-ой қабілеттері туралы негізгі сұрақтың көптен күткен жауабына жақындай түсеміз.

Дереккөздер: Futureoflife, Уикипедия және т.б Уикипедия