AI этикасы жана AI мыйзамы AI куралдануусун алдын алабыз деп бийлеген робот жасоочулардын жаңы убадасы жөнүндө оор суроолорду беришүүдө

Балким, сиз өткөн аптада жаңылыктардан көргөнсүз же социалдык медиада кээ бир робот жасоочулардын жалпы максаттагы роботторду AI куралдандырбоо максатын билдирген убадасын байкаган чыгарсыз. Мен сизге бир аздан кийин майда-чүйдөсүнө чейин айтып берем, андыктан бул маселеге көңүл бура элек болсоңуз, кабатыр болбоңуз.

Бул жарыяга болгон реакция тез жана, балким, биздин поляризацияланган коомдо адаттагыдай эле, мактоого татырлык да, кээде шылдыңдагандай сынчыл же ачыктан-ачык скептикалык да болгон.

Бул эки дүйнөнүн жомок.

Бир дүйнөдө кээ бирөөлөр дал ушул нерсеге муктажбыз дешет жоопкер AI роботту иштеп чыгуучулар жарыялайт.

Бара-бара көзгө көрүнүп, тынчсыздана турган маселенин оң тарабында болгонуңуз үчүн Кудайга шүгүр. Ошол сүйкүмдүү бийлеген роботтор кыйынчылык жаратууда, анткени аларды курал алып жүрүүгө жана эң жаман жол менен колдонууга оңой эле (социалдык медиага кирип, муну өзүңүз текшерсеңиз болот жана автоматтар менен куралданган бий роботторун көрсөткөн видеолор көп. башка курал-жарактар).

Бул монетанын экинчи бетинде күрөө деп аталган нерсе маркетинг же коомчулук менен байланышуу амалынан башка эч нерсе эмес деп айтылат (каптал эскертүү катары, кимдир бирөө күрөө менен кайрымдуулуктун айырмасын жакшы билеби?). Эмнеси болсо да, күмөн санагандар бул роботтордун бийлеген контекстинде ооздукталбаган жакшылыктын белгиси деп үндөшөт. Көрдүңүзбү, жалпы максаттагы роботторду куралдандырса болот деп нааразы болуу, албетте, пайдалуу жана кылдаттык менен карап чыгууга арзыйт, бирок жөн гана жасоочу муну жасабайт деп айтуу куру убада, кыязы, кээ бирөөлөр ырасташат.

Жалпысынан алганда, бул маселе AI этикасынын жана AI мыйзамынын бир топ чоң комплексин алып келет. Биз теманы кылдаттык менен ачып, бул этикалык жана мыйзамдуу AI сазынын эки эселенгендигин көрөбүз. AI этикасы жана AI мыйзамы боюнча менин үзгүлтүксүз жана кеңири чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Мен ошондой эле бул талкуунун жүрүшүндө AI куралдандыруунун коркунучтары боюнча өзүмдүн алдын ала анализдериме кайрылам, мисалы, менин терең баалоо. бул жерде шилтеме. Көшөгө артындагы кошумча чоо-жайды билүү үчүн, ошол дискурска көз чаптырсаңыз болот.

Бир банка курт ачкан ачык кат

Келгиле, бул талдоону алты салыштырмалуу белгилүү өнүккөн робот жасоочулар, атап айтканда Boston Dynamics, Clearpath Robotics, ANYbotics, Agility Robotics, Open Robotics жана Unitree тарабынан жакында жарыяланган Ачык катты кылдаттык менен этап-этабы менен изилдөөдөн баштайлы. Жалпысынан алганда, сиз негизинен Boston Dynamics роботторун көрдүңүз деп ойлойм, мисалы, төрт буту менен тегеренип жүргөн роботтор. Алар ит сымал көрүнөт, биз алардын ары-бери басып жүргөнүн көрүп ырахат алабыз.

Мен буга чейин жана бир нече жолу эскерткенимдей, мындай “бийлеген” роботторду жалпы коомчулукту бул роботтордун сүйкүмдүү жана сүйкүмдүү экенине ынандыруу каражаты катары колдонуу, өкүнүчтүүсү, адаштыруучу жана аларды антропоморфизациялоонун көптөгөн туңгуюктарына кириптер кылат. Биз бул катууланган металл жана пластмасса бөлүктөрүн эркелешкен ишенимдүү итке барабар деп ойлой баштайбыз. Биздин бул роботторду кабыл алууга даярдыгыбыз жалган коопсуздук жана кепилдикке негизделген. Албетте, сиз акча табышыңыз керек жана муну жасоо мүмкүнчүлүгү бийлеп жаткан роботтордун айланасында жүрүү аркылуу жогорулайт, бирок бул, тилекке каршы, бул роботтор роботтор экенин жана роботторду башкарган AI туура эмес иштелип чыгышы мүмкүн деген реалдуу фактыны жокко чыгарат же жашырат. же бурулуп кет.

AIнын бул кесепеттерин карап көрөлү (AI куралдандыруу боюнча менин макаламдан алынган бул жерде шилтеме):

• AI адашып кетишине себеп болгон катага туш болушу мүмкүн
• AI ашыкча болуп, жооп бербей жабылышы мүмкүн
• AI туура эмес жүрүм-турумга алып келген иштеп чыгуучунун мүчүлүштүктөрүн камтышы мүмкүн
• AI имплантацияланган каардуу вирус менен бузулушу мүмкүн
• AI реалдуу убакытта киберхакерлер тарабынан колго алынышы мүмкүн
• AI татаалдыктардан улам күтүүсүз деп эсептелиши мүмкүн
• AI эсептөө жолу менен "туура эмес" чечим кабыл алышы мүмкүн (салыштырмалуу түрдө)
• Ж.б.

Булар AIга байланыштуу пункттар, ал туура нерсени жасоо үчүн чындап иштелип чыккан.

Ошол ойлордун үстүнө, сиз жаман нерселерди жасоо үчүн жаралгандан баштап жасалган AI тутумдарын камтышыңыз керек. Сизде пайдалуу максаттар үчүн жасалган, көбүнчө деп аталган AI болушу мүмкүн AI For Good. Сиз ошондой эле атайылап жаман максаттар үчүн жасалган AI болушу мүмкүн, деп аталган AI For Bad. Мындан тышкары, сиз аласыз AI For Good бузулган же кайра болуп калган AI For Bad.

Айтмакчы, булардын эч кимиси AIнын сезимтал болуп калышына эч кандай тиешеси жок, муну мен айтып жатам, анткени кээ бирөөлөр азыркы AI сезимдүү же сезимтал болуу алдында деп айтып жатышат. Андай эмес. Мен өзүмдүн анализимде ошол мифтерди бөлүп алам бул жерде шилтеме.

Келгиле, анда биз бүгүнкү AI табияты жөнүндө бир бетте экенибизге ынаналы.

Бүгүнкү күндө сезимтал AI жок. Бизде бул жок. Сезимдүү AI мүмкүн болорун билбейбиз. Эч ким так айта албайт, биз сезгич АИге жетебизби, же сезгич AI кандайдыр бир кереметтүү түрдө өзүнөн-өзү пайда болоорун айта албайт (көбүнчө сингулярлык деп аталат, менин камтууумду караңыз). бул жерде шилтеме).

Мен көңүл буруп жаткан AI түрү бүгүнкү күндө бизде бар сезилбеген AIдан турат. Эгерде биз аң-сезимдүү интеллектуалдык интеллект жөнүндө ой жүгүртүүнү кааласак, анда бул талкуу түп-тамырынан бери башка багытта кетиши мүмкүн. Сезимдүү AI адамдык сапатка ээ болмок. Сиз сезимтал AI адамдын когнитивдик эквиваленти экенин эске алышыңыз керек. Андан тышкары, кээ бирөөлөр бизде супер интеллектуалдык AI болушу мүмкүн деп божомолдогондуктан, мындай AI адамдарга караганда акылдуураак болушу мүмкүн (супер-акылдуу AI боюнча менин изилдөөм үчүн, караңыз. камтуу бул жерде).

Мен нерселерди жер бетине түшүрүп, бүгүнкү күндөгү эсептөөчү сезилбеген AIны карап көрүүнү сунуштайт элем.

Бүгүнкү AI адамдын ой жүгүртүүсү менен бирдей эч кандай модада “ойлоого” жөндөмсүз экенин түшүнүңүз. Alexa же Siri менен баарлашканыңызда, сүйлөшүү мүмкүнчүлүктөрү адамдын мүмкүнчүлүктөрүнө окшош сезилиши мүмкүн, бирок чындыгында ал эсептөөчү жана адамдын таанып-билүү жөндөмү жок. AIнын акыркы доору эсептөө үлгүлөрүн дал келүүнү камсыз кылган Machine Learning (ML) жана Deep Learning (DL) кеңири колдонду. Бул адамга окшош өңүттөгү AI системаларына алып келди. Ошол эле учурда, бүгүнкү күндө жалпы акылга окшош бир дагы AI жок жана адамдын күчтүү ой жүгүртүүсүнүн когнитивдик кереметтери жок.

Бүгүнкү AIны антропоморфизациялоодон өтө этият болуңуз.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, сиз бул кайда бара жатканын биле аласыз. Эгерде чечимдерди кабыл алган адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келтирүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. AI тарабынан жасалган моделдөөнүн жалпы акыл-эстин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. ML/DLдеги сырдуу математика азыр жашырылган көз караштарды ачууну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келүүчү моделдердин ичинде бир тараптуулуктар сакталат деген чоң мүмкүнчүлүк бар.

Сиз кандайдыр бир атактуу же атагы чыккан таштандыны таштандыдан чыгаруу деген макалды колдонсоңуз болот. Эң негизгиси, бул AIнын ичине кирип кеткен көзкараштар катары тымызын түрдө пайда болгон бир тараптуулукка көбүрөөк окшош. AIнын алгоритмдик чечимдерди кабыл алуу (ADM) аксиоматикалык түрдө теңсиздикке толгон.

жакшы эмес.

Мунун баары AI этикасынын олуттуу кесепеттерине ээ жана AIди мыйзамдаштыруу аракетине келгенде алынган сабактарга (бардык сабактар ​​боло электе) ыңгайлуу терезени сунуштайт.

Жалпысынан AI этикасынын осуяттарын колдонуудан тышкары, бизде AIнын ар кандай колдонулушун жөнгө салуучу мыйзамдар болушу керекпи деген тиешелүү суроо бар. Жаңы мыйзамдар федералдык, штаттык жана жергиликтүү деңгээлдерде AI кантип иштелип чыгышы керектигинин диапазону жана мүнөзүнө тиешелүү. Мындай мыйзамдарды иштеп чыгуу жана кабыл алуу аракети акырындык менен жүрүп жатат. AI этикасы, жок эле дегенде, токтоолук катары кызмат кылат жана кандайдыр бир деңгээлде түздөн-түз ошол жаңы мыйзамдарга киргизилет.

Эсиңизде болсун, кээ бирөөлөр бизге AI камтыган жаңы мыйзамдардын кереги жок жана азыркы мыйзамдарыбыз жетиштүү деп ырасташат. Алар алдын ала эскертишет, эгерде биз бул AI мыйзамдарынын айрымдарын кабыл алсак, биз чоң коомдук артыкчылыктарды берген AIдагы жетишкендиктерди кыскартуу менен алтын казды өлтүрөбүз.

Мурунку тилкелерде мен AIны жөнгө салган мыйзамдарды иштеп чыгуу жана кабыл алуу боюнча ар кандай улуттук жана эл аралык аракеттерди карадым, караңыз бул жерде шилтеме, мисалы. Мен ошондой эле ар түрдүү элдер аныктаган жана кабыл алган AI этикасынын ар кандай принциптерин жана көрсөтмөлөрүн, анын ичинде Бириккен Улуттар Уюмунун аракетин, мисалы, ЮНЕСКОнун AI этикасынын 200гө жакын өлкө кабыл алган топтомун, караңыз. бул жерде шилтеме.

Бул жерде мен мурда кылдат изилдеп чыккан AI системаларына тиешелүү этикалык AI критерийлеринин же мүнөздөмөлөрүнүн пайдалуу негизги тизмеси:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Бул AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, AI тутумдарын талдап жана тейлөөчү принциптер менен колдонушу керек.

AI өнүктүрүүнүн жана колдонуунун бүткүл жашоо циклиндеги бардык кызыкдар тараптар Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлер гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманышат. Бул жерде мурда баса белгиленгендей, AI иштеп чыгуу жана жайылтуу үчүн айыл керек, ал үчүн бүт айыл AI этикасынын осуяттарын билиши жана аларга баш ийиши керек.

Эми мен Ачык катка кирүү үчүн пайдалуу пайдубалды түптөдүм, биз киришүүгө даярбыз.

Ачык каттын расмий темасы бул:

• «Робототехника индустриясына жана биздин коомчулукка ачык кат, жалпы максаттагы роботтор куралданбашы керек” (Интернетте жарыялангандай).

Буга чейин, абдан жакшы.

Аталышы дээрлик балмуздак жана алма пирогундай сезилет. Кимдир бирөө муну AI роботторун куралдандыруудан качуу үчүн мурда жасалган чакырык катары кантип талаша алат?

Көрүү үчүн окуңуз.

Биринчиден, каралышы үчүн тоют катары, бул жерде Ачык каттын расмий ачылыш абзацы:

• «Биз коомго алдыңкы мобилдик робототехниканын жаңы муундарын киргизүүгө арналган дүйнөдөгү алдыңкы компаниялардын бирибиз. Роботтордун бул жаңы муундары мурунку муундарга караганда жеткиликтүү, башкаруу оңой, автономдуу, арзан жана ыңгайлашууга жөндөмдүү жана мурда автоматташтырылган же алыстан башкарылуучу технологиялар үчүн жеткиликсиз болгон жерлерге барууга жөндөмдүү. Биз өнүккөн мобилдик роботтор коомго өнөр жайдагы кесиптештер жана биздин үйдөгү шерик катары чоң пайда алып келет деп ишенебиз” (Интернетте жарыялангандай).

Роботтордун бул түрлөрүнүн пайда болушунун күнөстүү жагы, биз көптөгөн чоң пайдаларды күтө алабыз. Буга эч кандай шек жок. Үйүңүздө үйдү тазалоо, идиш-аяк жуу жана башка үй жумуштары сыяктуу Джетсон сыяктуу иштерди жасай алган робот болушу мүмкүн. Бизде заводдордо жана өндүрүш ишканаларында колдонуу үчүн алдыңкы роботтор болот. Роботтор, мисалы, имарат кулап, адам өмүрүн сактап калуу коркунучунда турган тар мейкиндикте сойлоп же маневр жасай алат. Жана башка.

Кошумчалай кетсек, сизди жакында эле Тесла AI күнү тууралуу критикалык чагылдыруу кызыктырышы мүмкүн, анда Илон Маск баскан роботторду Тесла менен коомдун келечеги катары сүрөттөгөн. бул жерде шилтеме.

Каралып жаткан маселеге кайтуу. Бийлөөчү роботторду же басуучу роботторду олуттуу талкуулап жатканда, биз AI колдонуунун жалпы кирешесин же жалпы ROI (Инвестициялардын кайтарымы) эске алышыбыз керек. Биз өзүбүздүн пайдаларга ашыкча ашык болуп калууга жол бербешибиз керек.

Жылтырак жаңы оюнчуктун учтары өтө курч болушу мүмкүн.

Мунун баары маанилүү, бирок бир аз унчукпай турган жагдайды стимулдайт, азыр AI куралдандыруу маселесинин келип чыгышынын бир бөлүгү AIнын автономдуу ишмердүүлүккө карай илгерилеши менен байланыштуу. Биз, адатта, курал-жарактарды адам башкарат деп күткөнбүз. Атышуу же куралды колдонуу боюнча чечимди адам кабыл алат. Биз, кыязы, ал адам өз иш-аракеттери үчүн жооп бере алат.

Автономдуу иштөө үчүн иштелип чыккан же алданып калышы мүмкүн болгон AI адамды циклден алып салат окшойт. Андан кийин AI алгоритмдик түрдө адамдарды өлтүрүп же зыян келтире турган эсептөө чечимдерин кабыл алат. Интеллектуалдык интеллектти көзөмөлдөөнүн жетишсиздиги жөнүндө ачык кооптонуулардан тышкары, сизде AIнын иш-аракеттери үчүн жоопкерчиликти мойнубузга алуу кыйын болушу мүмкүн деп кооптонуп жатасыз. Бизде ачык шыкакчы болгон адам жок.

Кээ бирөөлөр AI акыл-эстүүлүккө жеткендей же башка жол менен юридикалык жак катары берилгендей, анын иш-аракеттери үчүн жөнөкөй жана түздөн-түз жооп беришибиз керек деп эсептешибиз керек деп түшүнөм. бул жерде шилтеме). Бул азырынча иштебейт. Биз AIны аны ойлоп тапкан же аны иштеткен адамдарга чейин издешибиз керек. Алар AI алар ойлогондон ашып кетти деп талашып, мыйзамдуу түрдө жоопкерчиликтен качууга аракет кылышары шексиз. Бул биз чечишибиз керек болгон күчөп бара жаткан талаш-тартыш (талаштуу маселелер боюнча түшүнүк алуу үчүн менин AI мыйзамынын жазууларын караңыз).

Бириккен Улуттар Уюму (БУУ) Женевадагы Кээ бир кадимки куралдар боюнча Конвенция (CCW) аркылуу онлайн режиминде жарыяланган расмий баяндамага ылайык, өлүмгө алып келүүчү автономдуу куралдар боюнча он бир жетектөөчү принциптерди түздү (тиешелүү эл аралык гуманитардык укукка шилтемелерди камтыйт). , анын ичинде:

(a) Эл аралык гуманитардык укук куралдын бардык системаларына, анын ичинде өлүмгө алып келген автономдуу курал системаларын потенциалдуу өнүктүрүүгө жана колдонууга толугу менен колдонулушун улантууда;

(б) Курал системаларын колдонуу боюнча чечимдер үчүн адамдын жоопкерчилиги сакталууга тийиш, анткени жоопкерчиликти машиналарга өткөрүп берүү мүмкүн эмес. Бул курал системасынын бүткүл жашоо цикли боюнча каралышы керек;

(c) Ар кандай формада болушу мүмкүн болгон жана куралдын жашоо циклинин ар кандай этаптарында ишке ашырылышы мүмкүн болгон адам менен машинанын өз ара аракети өлүмгө алып келген автономдуу курал системаларынын чөйрөсүндө жаңы пайда болгон технологияларга негизделген курал системаларын потенциалдуу пайдаланууну камсыз кылууга тийиш. колдонуудагы эл аралык мыйзамдарга, атап айтканда, IHLге ылайык келүү. Адам менен машинанын өз ара аракеттенүүсүнүн сапатын жана көлөмүн аныктоодо бир катар факторлор эске алынууга тийиш, анын ичинде операциялык контекст, ошондой эле бүтүндөй курал системасынын мүнөздөмөлөрү жана мүмкүнчүлүктөрү;

(d) CCW алкагында ар кандай жаңы курал-жарак системасын иштеп чыгуу, жайгаштыруу жана колдонуу үчүн жоопкерчилик колдонулуучу эл аралык укукка ылайык, анын ичинде адам башкаруусунун жооптуу чынжырында мындай системалардын иштеши аркылуу камсыз кылынууга тийиш;

(e) мамлекеттердин эл аралык укук боюнча милдеттенмелерине ылайык, жаңы куралды, куралды же согуш ыкмасын изилдөөдө, иштеп чыгууда, сатып алууда же кабыл алууда анын колдонулушу кандайдыр бир же бардык жагдайларда колдонулушу мүмкүнбү деген чечим кабыл алынууга тийиш. эл аралык укук тарабынан тыюу салынган;

(f) Өлүмгө алып келүүчү автономдуу курал системалары, физикалык коопсуздук, тийиштүү физикалык эмес кепилдиктер (анын ичинде хакердик же маалыматтарды бурмалоодон киберкоопсуздук) чөйрөсүндө жаңы технологиялардын негизинде жаңы курал системаларын иштеп чыгууда же сатып алууда террористтик топтор тарабынан сатып алуу коркунучу. жана жайылтуу коркунучун эске алуу керек;

(g) Тобокелдиктерди баалоо жана анын кесепеттерин азайтуу боюнча чаралар ар кандай курал системаларында жаңы пайда болгон технологияларды долбоорлоо, иштеп чыгуу, сыноо жана жайылтуу циклинин бир бөлүгү болушу керек;

(h) Эл аралык укуктун жана башка колдонулуучу эл аралык укуктук милдеттенмелердин сакталышы үчүн өлүмгө алып келүүчү автономдуу курал системалары чөйрөсүндө жаңы технологияларды колдонууну карап чыгуу керек;

(i) потенциалдуу саясий чараларды иштеп чыгууда, өлүмгө алып келген автономдуу курал системалары чөйрөсүндө жаңы технологияларды антропоморфизмге салууга болбойт;

(j) CCW контекстинде кабыл алынган талкуулар жана ар кандай потенциалдуу саясий чаралар интеллектуалдык автономдуу технологияларды тынчтык максатта колдонуудагы прогресске же жетүүгө тоскоол болбошу керек;

(k) CCW Конвенциянын максаттарынын жана максаттарынын контекстинде аскерий зарылдык менен гуманитардык ой-пикирлердин ортосунда тең салмактуулукту түзүүгө умтулган өлүмгө алып келүүчү автономдуу курал системалары чөйрөсүндө жаңы пайда болгон технологиялар маселесин чечүү үчүн тиешелүү негизди сунуштайт.

Ушул жана башка ар кандай согуш мыйзамдары жана куралдуу кагылышуулардын мыйзамдары, же IHL (Эл аралык гуманитардык мыйзамдар) куралданган автономдуу системалардын пайда болушуна байланыштуу эмне кылууга аракет кылсак болорун карап чыгуу үчүн маанилүү жана ар дайым келечектүү колдонмо болуп саналат. долбоорлоо же кийинки ыкмалар менен.

Кээ бирөөлөр биз куралдуу AI автономдуу тутумдарына ачык тыюу салышыбыз керек дешет. Туура, дүйнө бутун жерге коюп, AI автономдуу тутумдары эч качан куралданбасын деп катуу талап кылышы керек. Толук тыюу салуу керек. Окуянын аягы. Толук токтоо, чекит.

Ооба, биз өлүмгө дуушар болгон куралдуу автономдуу системаларга тыюу салуу катуу жана баш ийүү менен сакталышын чын жүрөктөн каалайбыз. Көйгөй, эң көп тыюу салуулардын ичинен күбүр-шыбыр орундарды табууга милдеттүү. Алар айткандай, эрежелерди бузуу керек. Иштер бош болгон жерде, риффрафф боштуктарды ачып, эрежелерди кысып, көз кысып коюуга аракет кылат деп коюңуз.

Бул жерде карап чыгууга татыктуу кээ бир мүмкүн болгон кемчиликтер бар:

• Өлтүрбөгөн дооматтар. Өлүмгө алып келбеген автономдуу курал системаларын жасаңыз (ал тыюу салынган чектерден тышкары болгондуктан, жакшы көрүнөт), аны сиз бир тыйындан кийин өлүмгө алып бара аласыз (сиз акыркы мүнөттө тыюудан өтөсүз).
• Автономдуу системанын дооматтары гана. Өлүмгө багытталган автономдуу системаларды жасабай, тыюуну сактаңыз, ошол эле учурда (азырынча) куралдандырыла элек, бирок бир тыйындан кийин куралдандырыла турган күнүмдүк автономдуу системаларды иштеп чыгууда көп ийгиликтерге жетишиңиз.
• Бир катары интеграцияланбаган дооматтар. Дегеле куралданбаган автономдуу системаларды жасаңыз жана убагы келгенде, алар эки өзүнчө элемент экенин катуу талашууга аракет кыла тургандай кылып куралдандырыңыз, ошондуктан алар бардыгы бир жерде автономдуу курал системасы же анын тууганы.
• Бул автономдуу эмес деп ырастайт. Автономдук кубаттуулуктарга ээ эместей көрүнгөн курал системасын жасаңыз. AI негизделген автономияны төмөндөтүү үчүн бул автономдуу эмес системада орун калтырыңыз. Керек болгондо, автономияны туташтырыңыз жана сиз айланууга даярсыз (ошол убакка чейин сиз тыюуну бузган жоксуз окшойт).
• башка

Өлтүрүүчү автономдуу курал системаларына тыюу салуу аракетинде дагы көптөгөн кыйынчылыктар бар. Мен алардын дагы бир нечесин айтам.

Кээ бир эксперттер тыюу салуу өзгөчө пайдалуу эмес жана анын ордуна жөнгө салуучу жоболор болушу керек деп ырасташат. Идея бул карама-каршылыктарга жол берилет, бирок катуу көзөмөлгө алынат. Мыйзамдуу колдонуунун литаниясы, мыйзамдуу максаттуу жолдору, мүмкүнчүлүктөрдүн мыйзамдуу түрлөрү, мыйзамдуу пропорционалдык жана башка ушул сыяктуулар белгиленген.

Алардын ою боюнча, түз эле тыюу салуу башыңды кумга салып, бөлмөдө пил жок дегендей түр көрсөтүүгө барабар. Бул талаш-тартыш, бирок тыюу салуу менен сиз мындай системаларга умтулуу азгырыгын кескин түрдө азайта аласыз деген аргументке каршы чыккандардын канын кайнатып жатат. Албетте, кээ бирлери тыюуну макташат, бирок жок дегенде көпчүлүгү андай болбойт деп үмүттөнөбүз. Андан кийин көңүлүңүздү шылдыңчыларга буруп, көңүлүңүздү баарына бөлбөшүңүз керек.

Бул талаш-тартыштар айланып баратат.

Дагы бир кооптонуу - бул тыюуну жакшылар кармаса да, жамандар болбойт. Бул жакшыны жаман абалга салат. Жамандардын мындай куралдуу автономдуу системалары болот, ал эми жакшылар болбойт. Жамандыктын бар экени ачыкка чыккандан кийин, жакшылыкка жетүүгө кеч болуп калат. Кыскасы, бир гана кыраакы нерсе - от менен от менен күрөшүүгө даярдануу.

Ошондой эле классикалык кармануу талашы бар. Эгерде жакшылар куралданган автономдуу системаларды жасоону тандаса, муну жамандардын чыр-чатакка түшүүсүнө жол бербөө үчүн колдонсо болот. Же жакшылар жакшыраак куралданып, ошону менен жаманды четтетет, же жамандар, балким, бул системаларды башынан эле тымызын ойлоп тапканын ачыкка чыгарганда, жакшылар даяр болот.

Бул эсептегичтерге каршы куралданган автономдуу системаларды жасоо менен сиз жарыша куралданууну жүргүзүп жатасыз. Экинчи тарап да ошондой болууга умтулат. Технологиялык жактан мындай системаларды жаңыдан түзө алышпаса да, алар азыр “жакшылардын” пландарын уурдап, жогорку технологиялык ичегилерди тескери инженериялай алышат же сынап көрүлгөн жана чындык катары көргөн нерселерди туурай алышат. ишти бүтүрүүнүн жолу.

Аха, кээ бир жооптор, мунун баары өз ара окшоштуктар менен чыр-чатактын азайышына алып келиши мүмкүн. Эгерде А тарап В тарабында өлүмгө алып баруучу автономдуу системалар бар экенин билсе, ал эми В тарабы А тарапта алар бар экенин билсе, алар катуу отура бериши мүмкүн жана сокку урушпайт. Бул өз ара ишендирилген жок кылуунун (MAD) өзгөчө аурасына ээ.

Жана башка.

Экинчи абзацты кылдаттык менен карап чыгуу

Биз буга чейин эле бул жерде көп негиздерди камтыганбыз жана азырынча Ачык каттын биринчи же биринчи абзацын карап чыктык (жалпысынан төрт абзац бар).

Экинчи абзацты карап чыгууга убакыт келди, бул жерде:

• «Жаңы мүмкүнчүлүктөрдү сунуш кылган жаңы технология сыяктуу эле, өнүккөн мобилдик роботтордун пайда болушу туура эмес колдонуу мүмкүнчүлүгүн сунуштайт. Ишенимсиз адамдар аларды жарандык укуктарга кол салуу же башкаларды коркутуу, зыян келтирүү же коркутуу үчүн колдонушу мүмкүн. Өзгөчө кооптондурган багыттардын бири – куралдандыруу. Биз роботторго алыстан же автономдуу түрдө башкарылуучу, коомчулукка кеңири жеткиликтүү жана адамдар жашаган жана иштеген мурда жетүүгө мүмкүн болбогон жерлерге барууга жөндөмдүү курал-жарактарды кошуу жаңы зыян тобокелдиктерин жана олуттуу этикалык маселелерди жаратат деп ишенебиз. Бул жаңы жөндөмдүү роботтордун куралдуу тиркемелери да коомго алып келе турган зор пайдаларды зыянга учураткан жол менен технологияга болгон элдин ишенимине зыян келтирет. Ушул себептерден улам биз өнүккөн мобилдүүлүктөгү жалпы максаттагы роботторубузду куралдандырууну колдобойбуз. Мурда бул маселе боюнча сөз кылгандар жана биринчи жолу катышып жаткандар үчүн, акыркы айларда аз сандагы адамдар өздөрүнүн убактылуу аракеттерин ачык жарыялаган коомдук тынчсыздануунун көбөйүшүнө байланыштуу жаңы шашылыш сезимди сезип жатабыз. коммерциялык жеткиликтүү роботторду куралдандыруу аракеттери” (Интернетте жарыялангандай).

Ушул экинчи абзацты окугандан кийин, AI куралдандыруу боюнча менин мурунку баяндамам кантип биринчи орунга чыкканын көрө аласыз деп үмүттөнөм.

Келгиле, бир нече кошумча пункттарды карап көрөлү.

Айрымдардын кооптонуусун жараткан конкреттүү сөз аспектине байланыштуу бир аз кооптонуу - бул баяндоо "ишенимсиз адамдар" бул AI роботторун кыянаттык менен колдонушу мүмкүн экенин баса белгилегендей. Ооба, чындап эле, бул AI роботторун "кыянаттык менен колдонууга" алып келген жаман адамдар же кара ниет адамдар болушу мүмкүн.

Ошол эле учурда, бул талкуунун башталышында айтылгандай, AI өзү, балким, орнотулган мүчүлүштүктөрдөн же каталардан жана башка ушул сыяктуу татаалдыктардан улам бузулуп кетиши мүмкүн экенин ачык айтышыбыз керек. деген тынчсыздануу гана мүмкүнчүлүктөрүн баса белгилеп жатат ишеничсиз адамдар башка жагымсыз мүмкүнчүлүктөрдү этибарга албай жаткандай сезилет. Көпчүлүк AI компаниялары жана сатуучулары муну моюнга алгысы келбесе да, автономдуу системалардын коопсуздугун жана ишенимдүүлүгүн төмөндөтүүчү AI системаларынын көптөгөн көйгөйлөрү бар. AI коопсуздугу жана катаал жана далилденүүчү коопсуздук чараларынын зарылдыгы жөнүндө менин камтуум үчүн караңыз бул жерде шилтеме, мисалы.

Ачык катты карап чыккандардын арасында дагы бир маанилүү жагдай, AI роботторуна байланыштуу коомдук ишенимди төмөндөтүшү мүмкүн деген ырастоону камтыйт.

Бир жагынан бул туура ырастоо. Эгерде AI роботтору жаман соода кылуу үчүн колдонулса, анда коомчулук бир топ бууланып калат деп ишене аласыз. Коомчулуктун кыжырына тийгенде, мыйзам чыгаруучулар чабуулга чыгып, AI роботторуна жана AI робот жасоочуларына каршы мыйзамдарды кабыл алууга умтулат деп ишене аласыз. Бул өз кезегинде, эгерде мыйзамдар бардыгын камтыса жана AI робототехникасынын артыкчылыктарын камтыган аракеттерди токтотсо, AI робототехника индустриясын кыйратышы мүмкүн. Кандайдыр бир мааниде, ымыркай ваннанын суусу менен ыргытып жибериши мүмкүн (эски сөз, балким, пенсияга чыгууга татыктуу).

AI роботторуна болгон элдин ишениминин төмөндөшүнө жол бербөө жөнүндөгү бул ырастоо кандайдыр бир өзүн-өзү тейлөөчү кредобу же бул баарыбыздын жыргалчылыгыбыз үчүнбү (экөө тең болушу мүмкүнбү?) деген ачык-айкын суроо.

Сиз чечесиз.

Биз азыр Ачык каттын өзгөчө эттүү бөлүгүнө келдик:

• «Биз өркүндөтүлгөн мобилдүүлүктөгү жалпы максаттагы роботторубузду же өнүккөн робототехниканы иштеткен программалык камсыздоону курал кылбайбыз жана башкаларга муну колдобойбуз деп убада беребиз. Мүмкүн болгондо, потенциалдуу куралданууларды болтурбоо үчүн кардарларыбыздын арналган арыздарын кылдат карап чыгабыз. Биз ошондой эле бул тобокелдиктерди азайта турган же азайта турган технологиялык өзгөчөлүктөрдү өнүктүрүүнү изилдөөгө убада беребиз. Түшүнүктүү болуу үчүн, биз элдер жана алардын мамлекеттик органдары өздөрүн коргоо жана мыйзамдарын сактоо үчүн колдонулуп жаткан технологияларга каршы эмеспиз” (Интернетте жарыялангандай).

Биз муну ача алабыз.

Отуруп, ошого жараша даярданыңыз.

Сиз кандайдыр бир оттуу поляризацияга даярсызбы?

Жагымдуу жагы, кээ бирлери бул AI робот жасоочулары ушундай убада беришет деп жар салып жатышат. Кыязы, бул робот жасоочулар ыраазы болуп, өздөрүнүн "жалпы максаттагы" роботторун куралдандырбоого аракет кылышат. Мындан тышкары, Ачык катта андай кылгандарды колдобой тургандыктары айтылат.

Сынчылар кандайдыр бир акылдуу сөздөр болуп жатабы деп таң калышат.

Мисалы, "өнүккөн мобилдүүлүк" кайда башталып, кайда бүтөт? Эгерде робот жасоочу а жөнөкөй- өнүккөн роботко караганда мобилдүүлүк AI роботу (бул техникалык жаргондун аныкталбаган бөлүгү), бул эмне кыла турган иш-аракеттердин алкагынан чыгарылат? жок куралдануу? Ошентип, жөнөкөй мобилдик AI роботторун куралдандыруу туура болот, эгерде алар мындай деп аталбаса алдынкы.

Ошол эле жалпы максаттагы роботтордун фразасына да тиешелүү. Эгерде AI роботу атайын куралдандыруу үчүн иштелип чыккан болсо, анда биз а деп айта албайбыз жалпы максат робот, бул алкактан четтетүү болобу?

Сиз бул чыр-чатактар ​​менен жаңжалдашып, бул жөн гана Ачык кат жана ар бир бурчту ачып берген элүү барактан турган юридикалык документ эмес деп кызуу талаша аласыз.

Бул бизди айрымдар тарабынан айтылган макро-деңгээлдеги көбүрөөк квалификацияга алып келет. Негизи, "күрөө" эмнени билдирет?

Кээ бирөөлөр сурашат, уйдун эти кайда?

Мындай күрөөгө койгон компания оюнда эч кандай чыныгы үлүшү жок эле жасап жатат окшойт. Эгерде бул күрөөгө кол койгон кайсы бир фирманын жогорку жезү күрөөнү мындан ары аткарбоо чечимине келсе, ал фирма менен эмне болот? Жетекчилер жалпысынан консерваланып калабы? Компания жабылып, күрөөнү бузгандыгы үчүн кечирим сурайбы? Жана башка.

Күрөөнүн бузулушу үчүн атайын жаза же жаза жок.

Сиз аброюңузга зыян келтириши мүмкүн деп талаша аласыз. Күрөө берүүчү фирма мындан ары сакталбай калган күрөө бергени үчүн базарда кыйнашы мүмкүн. Албетте, бул дагы эл күрөөгө коюлганын эстеп калат деп болжолдойт. Ал ошондой эле күрөөнүн бузулушу кандайдыр бир жол менен аныкталат деп болжолдойт (эгер фирма муну кылса, бардыгын айтып берери күмөндүү көрүнөт). Күрөөнү бузган адамды чакырып алуу керек болчу, бирок мындай маселе AI робототехникасын жасагандар жөнүндө болуп жаткан цунамиде жөн гана ызы-чуу болуп калышы мүмкүн.

Келген дагы бир бурчту карап көрөлү.

Күрөө берүүчү фирманы кандайдыр бир чоңураак фирма сатып алат. Чоңураак фирма өнүккөн мобилдүүлүктөгү жалпы максаттагы роботторду AI куралдуу версияларына айландырууну чечет.

Бул күрөөнү бузуубу?

Чоңураак фирма бул мыйзам бузуу эмес деп ырасташы мүмкүн, анткени алар (чоң фирма) эч качан күрөөгө койгон эмес. Ошол эле учурда, кичинекей фирма чогулткан жана ойлоп чыгарган зыянсыз AI роботтору эң альтруисттик ниет менен жасап, дээрлик бир түндүн ичинде куралга айланган.

Кичинекей фирма качандыр бир күнү мындай болорун билген эмес деп айтууга болот, бирок күрөөнүн бир түрү. Алар чын жүрөктөн каалоолорун айтышкан. Чоңураак сатып алуучу фирма эмне кылууну чечкени алардын көзөмөлүндө эмес.

Айрымдар бул жерде кандайдыр бир юридикалык жоопкерчилик барбы деп да сурашат.

Күрөө берүүчү фирма бир нече айдан кийин күрөөнү аткарбай турганын чечет. Алардын жүрөгү өзгөргөн. Фирма өзү берген күрөөдөн баш тартканы үчүн сотко берилиши мүмкүнбү? Ким сотко берет? Сотко эмне негиз болмок? Көптөгөн укуктук маселелер жаралат. Алар айткандай, сиз дээрлик ар бир адамды сотко бере аласыз, бирок сиз жеңесизби, бул таптакыр башка маселе.

Муну башка жол менен ойлонуп көрүңүз. Күрөө берүүчү фирма чындап эле чоң келишим түзүүгө мүмкүнчүлүк алат, ал роботторду алуу үчүн мурун аркылуу төлөөгө даяр болгон чоң компанияга өзүнүн алдыңкы мобилдик жалпы багыттагы роботторунун бүтүндөй тобун сатууга мүмкүнчүлүк алат. Бул жашоодо бир жолу боло турган миллиондогон долларлык сатып алуу келишимдеринин бири.

AI робототехника компаниясы эмне кылышы керек?

Эгерде AI робототехника күрөө фирмасы ачык сатылса, алар дээрлик сатууну көздөшмөк (жеке фирма жөнүндө да ушуну айтууга болот, бирок такыр андай эмес). Элестеткиле, күрөө берүүчү фирма сатып алуучу роботторду куралдандырууга аракет кылышы мүмкүн деп кооптонуп жатат, бирок столдо мындай талкуу жок дейли. Бул жөн гана сатып алуучу ушундай кылышы мүмкүн деген имиш.

Демек, күрөө берүүчү фирма роботторду куралданууга болбойт деп лицензиялайт. Сатып алуучу бул тилден баш тартып, сатып алуудан алыстайт.

Күрөөгө берген AI робототехника фирмасы канча киреше алды?

Лицензиялоону чектөө талабын киргизүүдөн (же, балким, мыйзамдуу түрдө чектөөнү мыйзамдуу түрдө формулировкалоодо) колдогу пайда ашып кеткен учур барбы? Менин оюмча, сиз түшүнбөстүктү көрө аласыз. Мындай көптөгөн сценарийлерди оңой эле ойлоп табууга болот. Бул күрөөнүн тиштери болобу деген суроо туулат. Эгер ошондой болсо, кандай тиштер?

Кыскасы, талкуунун башында айтылгандай, кээ бирөөлөр күрөөнүн бул түрү жасалып жатат деп кубатташса, башкалары күрөө сууга жетеби деген күңүрт көз карашта.

Биз улантабыз.

Күрөө алуу

Ачык каттын төртүнчү жана акыркы абзацында мындай дейт:

• «Биз бул тобокелдиктерди толугу менен чечүү үчүн биздин милдеттенмебиз гана жетишсиз экенин түшүнөбүз, ошондуктан биз саясатчыларды бул роботторду коопсуз колдонууга көмөктөшүү жана аларды туура эмес колдонууга тыюу салуу үчүн биз менен иштешүүгө чакырабыз. Ошондой эле биз робототехника коомчулугундагы ар бир уюмду, иштеп чыгуучуну, изилдөөчүнү жана колдонуучуну мындай роботторду курал-жаракты түзбөөгө, уруксат бербөөгө, колдоого албоого же иштетүүгө тыюу салууга чакырабыз. Биз бул технологиялардын адамзат үчүн пайдалары туура эмес колдонуу коркунучунан алда канча жогору экенине ишенебиз жана биз адамдар менен роботтор дүйнөнүн кээ бир көйгөйлөрүн чечүү үчүн жанаша иштешкен жаркын келечекке кубанычтабыз” (Интернетте жарыялангандай).

Ачык каттын бул акыркы бөлүгүндө ачууну жараткан бир нече кошумча элементтер бар.

Саясатчыларды чакыруу жакшы кеңеш же жаман кеңеш болушу мүмкүн, айрымдар ырасташат. Сиз бул маселелерди билбеген саясатчыларды ала аласыз, алар кийинчерээк AI роботторундагы прогрессти узурпациялаган классикалык шашылыш чечимдерди жана мыйзамдарды жана эрежелерди иштеп чыгышы мүмкүн. Мурда айтылган пунктка ылайык, AI роботтук жетишкендиктерин алдыга жылдырып жаткан инновациялар үзгүлтүккө учурап же тебеленип калышы мүмкүн.

Сынчылардын айтымында, эмнени сурап жатканыңызды жакшы билесиз.

Албетте, каршы аргумент, баяндоодо саясатчылар AI робототехника фирмалары менен ушундай мыйзамдарды жана жоболорду кантип акылдуу түрдө жасоону аныктоо үчүн иштеши керек деп так айтылат. Контр аргументке каршы, саясатчылар AI робототехникасын жасоочуларга алардын каалоолорун канааттандырышса, аларды карап көрүшү мүмкүн. Технологияны билгендер менен иштешүү табигый түрдө зарыл, болбосо анын натыйжасы кыйын болуп калышы мүмкүн. Жана башкалар.

Мүмкүн, ызы-чуу болуп, айрымдар ар кимди ушундай убадаларды берүүгө чакырган сызыктан улам ичи күйүп кетишти. тиркөө өнүккөн кыймылдуу жалпы максаттагы роботторго курал. Ачкыч сөз ошол жерде тиркөө. Эгер кимдир бирөө курал-жарактарды камтыган же кынтыксыз орноткон AI роботун жасап жатса, анда бул сөздү айланып чыгат окшойт. тиркөө бир нерсе. Сиз азыр көрүп турасыз, кимдир бирөө курал тиркелген эмес, ал толугу менен AI роботунун бир бөлүгү болуп саналат деп катуу талашып жатат. Кетиңиз, деп кыйкырышат алар, биз ал убаданын чегинде эмеспиз, атүгүл алар башка жол менен алар деп айтышы мүмкүн.

Бул күрөөнүн жабышчаактыгына дагы бир нааразычылыкты жаратат.

Бул күрөөгө коюуну каалаган фирма же кимдир бирөө каалаган убакта жана каалаган себептерден улам өздөрүн күрөөсүз деп жарыялай алабы?

Кыязы, ошондой.

Күрөөлөрдү берүү жана алар кандай күчкө ээ экендиги жөнүндө көптөгөн талаш-тартыштар бар.

жыйынтыктоо

Ооба, сиз туура нерсени кылууга аракет кылып жаткан бул компаниялар туура нерсени кылууга аракет кылып жатышат деп айта аласыз.

Биздин дүйнөгө эмне келди?

Кимде-ким ушундай убада берген болсо, анда сиз аны чын жүрөктөн сактай аласыз. Алар тайманбас жана маанилуу салым кошуу учун коомдук чейреге чыгып жатышат. Эгерде биз аларды ушундай кылганы үчүн шылдыңдай баштасак, бул албетте, абалды ого бетер начарлатат. Мындай убаданы эч ким каалабайт. Фирмалар жана башкалар аракет кылышпайт. Алар жашынып, коомго ошол сүйкүмдүү бий роботтору коркунучтуу түрдө эмнеге айланышы мүмкүн экендиги жөнүндө эскертпейт.

Скептиктер коомду акылмандыкка алып келүүнүн жолу башка иш-аракеттерди талап кылат, мисалы, AI роботторун бийлеп жаткан фантастикалык актыдан баш тартуу деп жар салышат. Же жок дегенде аны салмактуураак иш кыл. Мисалы, сүйүктүү үй жаныбарларына берилген иттерди туурап эле койбой, бийлеп жаткан роботтор адамдарды эч ойлонбостон тытып салган жапайы ачууланган карышкырларга кандайча көбүрөөк окшош болоорун көрсөтүп бериңиз.

Бул убадага караганда көбүрөөк көңүл бурат, деп жалбарышат.

Күрөөлөр, албетте, абдан табышмак болушу мүмкүн.

Махатма Ганди чечендик менен айткандай: «Күрөө канчалык ачык айтылбасын, адамдар текстти өз максатына жараша буруп, бурушат».

Томас Жефферсон, балким, ушуну айтуу менен, ант берүү жөнүндө мындай деген: «Биз бири-бирибизге өмүрүбүздү, байлыгыбызды жана ыйык ар-намысыбызды убада кылабыз».

AI роботторуна, алардын автономиясына, куралдандырылышына жана ушул сыяктуу нерселерге келгенде, биз бардыгыбыз бул жерде чогуу болобуз. Биздин өз ара убадабыз жок дегенде ушул маселелерди биринчи планда кармайбыз, бул жетишкендиктерди жеңүүнүн жолдорун табууга аракет кылабыз жана кандайдыр бир жол менен өзүбүздүн намысыбызды, байлыгыбызды жана жашообузду камсыз кылуу жолун табабыз.

Биз буга кепилдик бере алабызбы?

Мен ишенем.