AI этикасы жана атактуу AI укмуштуу өрөөнү, ал дагы AI негизиндеги өзүн-өзү айдай турган унааларды дүрбөлөңгө салат

Кээде көңүлүңүздү буруп, интуитивдик ширеңизди иштеткен бир аз кызыктай нерселер бар, кандайдыр бир деңгээлде бир нерсе болбой жатат. Кызыкчылык ачык эмес, сенин жүзүңдө такыр ачык эмес. Сиз дал келбестиктин эмне экенин же сиздин ылакап жөргөмүш сезимиңиздин кычыштап жатканын дароо түшүнө албай каласыз.

Мүмкүн, тымызын айтуучу көрсөтмөлөр сезилип жаткандыр. Балким, ичегиңде диссонанс бар экенин түшүнөсүң. Менин оюмча, сиз айта алсаңыз болот, анча-мынча эле анчейин байкалбаган үрөй учурарлык жана сиздин назик адамдык радарыңыз жашыруун көрүнгөн сигналдарды кабыл алууда.

Укмуштуу өрөөнгө кош келиңиз.

Эгер сиз AI жана өзгөчө робототехника тармагында салыштырмалуу популярдуу болгон укмуштуудай өрөөн жөнүндө эч качан укпасаңыз, анда сиз бир аз ырахат аласыз, анткени бул теманы мен бул жерде кылдат талкуулап, талдайм.

Негизги түшүнүк биз жашоодо башынан өткөргөн көп нерселерге тиешелүү болушу мүмкүн, бирок негизги принциптер жана баштапкы аныктама AI тутумдарын жана роботторун камтыйт. Биз адегенде укмуштуудай өрөөндүн келип чыгышын жана баштапкы маанисин изилдеп, андан кийин кубулуштардын кеңири контексттерде кандайча колдонулушу мүмкүн экенин көрүү үчүн кеңейтүүгө киришебиз.

Мен ошондой эле укмуштуудай өрөөн бар же жок экенин карап чыгабыз деп кошумчалай алам.

Көрдүңүзбү, кээ бир скептиктер жана цинисттер бул маселенин баары бир аз шылуундук жана сууну кармабайт деп талашып жатышат. Теманы билгендерге жеткирүүдө этият болуңуз. Кээ бирөөлөр кубанып жылмайып, укмуштуудай өрөөн менен жакшы тааныш экениңизди айтып далыңызга чапкылашат, ал эми башкалары бул чочко суусу экенин жана акылыңызды тазалоочу самындын көбүгү менен акылыңызды тазалашыңыз керек деп катуу лекция айтышат. .

Бул жердеги жакшы жаңылык, сиз укмуштуудай өрөөн чынбы же жокпу, ошону менен бирге анын акылга сыярлык колдонууга пайдасы барбы же анын ордуна техно-идеялар үчүн аземсиз түрдө ыргытуу керекпи, ошону чечесиз. Бул жагынан алып караганда, сиз айдоочунун ордундасыз.

Мунун баары ошондой эле этикалык AIнын өнүгүп келе жаткан тармагына жана коом AI этикасына олуттуу жана этияттык менен көңүл бурушу керек экендигин түшүнүү менен тыгыз байланышта. Биз ал галстукту бир аздан кийин жасайбыз.

Эң жакшы жер - бул укмуштуудай өрөөн концепциясын ойлоп тапкан жана бул жарыяланган көрүнүштү ачык атаган профессордун цитатасынан. 1970-жылы Токио технологиялык институтунун профессору Масахиро Мори анча-мынча белгилүү болгон журналга анча-мынча кичинекей макала жарыялаган. энергия (Айрыкча AI жана робототехника үчүн очок эмес) жана мындай деди:

"Мен роботторду адам кылып көрсөтүү максатын көздөп, биздин аларга болгон жакындыгыбыз, мен укмуштуудай өрөөн деп атаган өрөөнгө жеткенге чейин күчөгөнүн байкадым."

Түпнуска кагаз япон тилинде болсо да, жогорудагы фразалар англис тилинде көрсөтүлгөнүн эске алыңыз. Англисче которулган варианты автор тарабынан көзөмөлдөнүп, кийинчерээк журналда басылып чыккан IEEE Спектрум 2012-жылы жана Масахиро Мориге автор катары берилген. Кагазды өзүңүз окуй аласыз, анткени ал онлайн режиминде ачык жана эркин жеткиликтүү. Бул, балким, он мүнөткө жакын тез окуу жана эч кандай техникалык оор терминологияны камтыбайт.

Айтор, 1970-жылы жарык көргөн мындай курч макаланын акырында бүтүндөй бир изилдөө аренасы башталганы жана ага байланыштуу көптөгөн изилдөөлөрдү, долбоорлорду, изилдөөлөрдү баштаганы кызык жана кандайдыр бир деңгээлде таң калыштуу. укмуштуудай өрөөн деген түшүнүк чындап эле бар. Менимче, бул кызыктуу жана кээде көз карашты өзгөрткөн идеяларды массалык түрдө бурмалоо же жаргондор жана бийиктиктерге толтурбоо керек экенин көрсөтүп турат. Кыска идея, ал тургай, нерселердин бетинде көрүнгөндөн да күчтүү эмес сыяктуу болушу мүмкүн.

Бул сизди жаңы идеяларыңызды сынап көрүүгө жана өркүндөтүүгө түрткү берет деп ишенем, муну менен таттуу жана жөнөкөй нерсе татаал жана татаалга караганда укмуштуудай же кээде андан да көп болушу мүмкүн.

Келгиле, таң калыштуу өрөөндө кайра секирип көрөлү.

Сиз роботтук системага туш болосуз, анын бети адамга окшош. Элестеткиле, бул роботтук бет көптөгөн итерациялар аркылуу иштелип чыккан. Роботтун башын бириктирген AI иштеп чыгуучулар роботтук бет бөлүгүн барган сайын чыныгы адамдын жүзү сыяктуу кылып көрсөтүүгө умтулуп жатышат.

Алардын биринчи аракети өтө примитивдүү болду. Роботтун жүзү толугу менен металлдан жасалган жана тиштүү механизмдер менен зымдарды көрсөткөн илимий-фантастикалык тасмаларда көргөндөй эле. Карап турсаң, анын робот экенин дароо билесиң. Бул тууралуу сиздин оюңузда суроо жок.

AI иштеп чыгуучуларынын кийинки аракети кээ бир пластикалык материалдарды металл бөлүктөргө ороп коюуну камтыды. Бул бир аз жагымдуураак көрүнгөнү менен, анын роботтун башы жана робот жүзү экенин дароо билесиз. Дагы бир жолу, аныктоо оңой.

Бул AI иштеп чыгуучулар муну улантууга чечкиндүү. Алар пластмассаны скульптуралап, териге түс беришет. Алар адамдын бетине абдан окшош көрүнгөн өзгөчөлүктөрдү, мисалы, меңдер, чачтар, тактар ​​жана ушул сыяктууларды кошот.

Бир караганда, бул адамдын жүзү деп ойлошуңар мүмкүн. Эгер роботтук беттин сүрөтү тартылып, сизден роботтук бетке каршы адамдын сүрөтү бар-жоктугун аныктоону сурашса, анын кайсынысы экенин дароо айта албай каласыз. Башка жагынан алып караганда, эгер сиз аппараттын жанында турган болсоңуз, тыкыр текшерүүдөн кийин ал адам эмес, анын ордуна робототехника экенин баамдай аласыз.

Эң негизгиси, сиз жакындан карап чыгуу мүмкүнчүлүгүнө ээ боло электе, бетиңизде бир нерсе бар болчу, ал толугу менен кошулбагандай көрүнгөн. Бул, албетте, адамдын жүзү окшойт. Бирок бир нерсе болбой калды. Туура эмес көрүнгөн нерсеге манжаңызды коюу үчүн кайра-кайра тиктеп турууга туура келди. Балким, бул чыныгы жүзү болуп саналат. Анан дагы, балким, андай эмес. Акылыңыз ошого жараша кыймылдайт.

Сиздин оюңузга коркунучтуу көрүнүш кирет.

Мурунку эки версияны көргөндө сизде мындай үрөй учурарлык көрүнүш болгон эмес. Сиз тынымсыз же тартынбастан роботтун робот экенин аныктай аласыз. Бала гана ал версиялардын бири чыныгы адамга таандык деп алданып калышы мүмкүн.

Бирок бул акыркы версия башкача болгон. Ал адамдын жүзүндөй көрүнүү үчүн али жеткилең боло элек болчу. Ошондой эле ал робот болушу керектиги айкын болгон реалдуу нерседен ушунчалык алыс болгон эмес. Кандайдыр бир тополоң жерге жеткен.

Дейли, иштеп чыгуучулар изилдөө аракеттерин андан ары улантышты жана роботтун жүзү адамдын жүзү менен дээрлик айырмаланбай тургандай кылып баарын бириктирди дейли. Буюмду канча тиктеп отурсаң да, адамбы же адамбы деп ишенесиң. Бул роботтук бет экенин билгенде, сиз таң каласыз. Гош, алар аны реалдуу кылып көрсөтүү үчүн чоң жумуш жасашты.

Көңүл буруңуз, сиз буга чейин бир гана сырткы көрүнүшкө негизделген роботтордун аспектилерин карап келгенсиз.

Биз теңдемеге кыймылды кошсок болот. Бул роботтун адамга каршы робот экенин аныктоо үчүн кошумча өлчөм кошот. Мен бул талкууда бул маселенин көп өлчөмдүү түрү катары толугу менен көңүл ачууну каалабайм, анткени ал бул тема боюнча түшүндүрүүнү татаалыраак кылат (бирок көп өлчөмдөр сөзсүз түрдө чырмалышкан). Кандай болгон күндө да, роботтун жүзүн көрүп эле тим болбостон, роботтун ооз, көз, мурун ж.б. сыяктуу бет түзүлүштөрүн кыймылдатып жатканын да көрө алаарыңызды элестетип көрүңүз. робот же адам.

Укмуштуудай өрөөндүн алдыңкы планында сакталышы керек болгон маанилүү аспект - бул баштапкы концепция адамдын жакындык актысына басым жасайт. Талап кылынган феномен, роботтун бети бара-бара жакшырып баратканын көргөн сайын, укмуштуудай вариант пайда болгонго чейин, сиздин жакындыгыңыз көбөйүп баратат. Ошол учурда сиздин жакындык сезимиңиз кескин төмөндөп, жакындык жарга же өрөөнгө түшүп кетет деп айтылат.

Бир нерсе туура эмес деп шектенүүгө себеп болгон өзгөчө версия үчүн, сиздин жакындыгыңыз кескин төмөндөдү. Андан тышкары, теорияга ылайык, чыныгы адамдык формага дээрлик окшош болгон өркүндөтүлгөн версияга туш болгондон кийин, сиздин жакындыгыңыз кайра көтөрүлүшү мүмкүн.

Жашоонун аспектилери акырындык менен өсүп жатат деп болжолдоого болгон кадыресе ыктообуз жөнүндө автордун айткандары тууралуу кененирээк: «Математикалык термин монотондуу жогорулатуу функциясы функциясы болгон мамилени сүрөттөйт y = ƒ(x) өзгөрмө менен тынымсыз өсөт x. Мисалы, аракет катары x өсөт, киреше y көбөйөт, же машинанын газы басылганда, машина ылдамыраак кыймылдайт. Мындай мамиле бардык жерде жана абдан оңой түшүнүлөт. Чындыгында, мындай монотондуу өсүүчү функциялар күнүмдүк турмуштун көпчүлүк кубулуштарын камтыгандыктан, адамдар алар бардык мамилелерди чагылдырат деген иллюзияга кабылышы мүмкүн. Көптөгөн адамдар артка тартуунун эффективдүүлүгүн түшүнбөстөн, тынымсыз түртүп жашоо менен күрөшүп жатканы дагы бул туура эмес пикирди тастыктап турат. Ошондуктан адамдар, адатта, бул функция көрсөтө албаган кандайдыр бир кубулушка туш болгондо таң калышат». Бул боюнча келтирилген IEEE Спектрум которулган кагаз.

Дайыма көбөйүү жөнүндөгү бул дээрлик универсалдуу божомол биз туура эмес нерсеге туш болгондо жокко чыгарылышы мүмкүн. Коркунуч жана шектенүү жакындыктын кескин жана кескин төмөндөшүнө алып келет, теория боюнча, мисалы, сиз калчылдап тандап алган жана адамдын колунун сөөктүү өзгөчөлүктөрүн сезе албаган робот колу сыяктуу: “Мындай болгондо, биз сезимибизди жоготобуз. жакындык, жана кол укмуштуудай болуп калат. Математикалык жактан алганда бул терс маани менен көрсөтүлүшү мүмкүн».

Эгерде сиз бул укмуштуудай өрөөндүн кубулушу бар деген негизди кабыл алсаңыз, анда укмуштуудай өрөөн бар экенин билүүнүн сизге кандай пайдасы бар деп ойлонуп жатканыңызга ишенем.

Бул бардык убактагы классикалык "эмне эмне?" практикалык сыноо.

Көрсө, көп адамдар укмуштуудай өрөөн жөнүндө эмне кылышыбыз керек же эмне кылышыбыз керек деген көптөгөн жоромолдорду ойлоп табышты. пикирлер тонна бар. Мен мунун айрымдарына жакын арада токтолом.

Ошол эле учурда Масахиро Мори мындай деди: «Биз укмуштуудай өрөөнгө түшпөй турган роботторду жана протез колдорду долбоорлоп, курабыз деп үмүттөнөбүз. Ошентип, экинчи чокуга чыгуу үчүн, алардын адамдык окшоштук даражасын жогорулатууга аракет кылуу мүнөздүү болгон тобокелдиктен улам, мен дизайнерлерге анын ордуна биринчи чокуну максат кылып алууну сунуштайм, бул адамдын орточо деңгээлине жана олуттуу жакындык сезимине алып келет. . Чынында, мен атайылап адамдык эмес дизайнга умтулуу менен жакындыктын коопсуз деңгээлин түзүүгө болот деп болжолдойм. Мен дизайнерлерден бул жөнүндө ойлонуп көрүүнү суранам».

Укмуштуу өрөөнгө байланыштуу эмне кылуу керектиги жөнүндө он эки ыңгайлуу шым эрежелеринин тез конденсациясы, өзгөчө AI иштеп чыгуучулары үчүн мындай болот:

1) Укмуштуу өрөөнүнөн кабардар бол жана ошого жараша бутуңда бол

2) Сиз мүмкүн болушунча AI үчүн адамдын жакындыгына жетүүнү каалайсыз

3) Эгерде сиздин AI укмуштуудай өрөөнгө түшүп кетсе, адамдык жакындыкты жоготууга даяр болуңуз

4) AIңызды ойлоп табуу менен укмуштуудай өрөөндөн качууга аракет кылыңыз

5) Тынымсыз өрөөнгө кыска болгон максат бар урматтуу

6) Укмуштуу өрөөндүн четине чейин ийилип, бирок жардан кулап кетпе

7) Укмуштуу өрөөндүн чегинен чыгуу менен алек болбо

8) Сиз укмуштуудай өрөөндөн секирип өтүү мүмкүнчүлүгүңүз бар

9) Секирүү менен алек болбо, анткени баары бир өрөөндө түшүп калышың мүмкүн

10) Адамдын максималдуу жакындыгына таң калыштуу өрөөндү басып өтүү менен жетиши мүмкүн.

11) Ошого карабастан, укмуштуудай өрөөнгө чейин табылган адекваттуу жана ылайыктуу жакындык бар.

12) Укмуштуу өрөөнгө дайыма көңүл буруңуз жана анын оюңуздан чыгып кетишине жол бербеңиз.

Бул ондогон жалпы осуяттар, алар укмуштуудай өрөөн жөнүндө билүүнүн негизги ташы же таяныч чекиттери катары каралышы мүмкүн. Мен дароо моюнга алам, бул аз ондогондо саналбаган башка пункттар да бар, алар да бирдей маанилүү. Мен ошондой эле ар бир аныкталган пункт боюнча пикир келишпестиктер болушу мүмкүн экенин жана айтылган ар бир пункт боюнча узакка созулган кызуу талаш-тартыштар болушу мүмкүн экенин дароо моюнга алам.

Андан тышкары, кээ бирөөлөр он эки пунктту таптакыр таштанды деп айтышат, анткени алар жалганга негизделген. Тынымсыз өрөөн жок, талашат. Мунун баары жөн гана куулук жана ойдон чыгарылган айла-амал, ал алсыз акыл-эске кайрылуу үчүн гана жана өкүнүчтүү түрдө кайрылат (ой, бул чын жүрөктөн ооруйт!). Укмуштуу өрөөнгө кандайдыр бир көңүл буруу – бул абанын ысырап болгон деми жана кимдир бирөө келип, маселенин түпкүрүнө курч жыгачтан жасалган теориялык казык коюшу керек (айрым изилдөөчүлөр буга аракет кылышкан).

Талкуу үчүн, келгиле, агым менен кетели жана ал жерде укмуштуудай өрөөн бар жана ал жалпысынан мен буга чейин көрсөткөн нерселерге дал келет деп ойлойлу. Укмуштуу өрөөндүн концептуализациясына макул болбогондор тиштерин кычыратып, интеллектуалдык ачуусу кайнап, кайнап (бул үчүн кечирим сурайм) зонаны бөлүп же окууну улантышат.

Бул жерде Этикалык AI жана этикалык AI ойлоп табуу жана жайылтуу багыты кандайча пайда болот. Айтмакчы, менин AI этикасын улантып жаткан жана терең изилдөөм үчүн менин талкуумду караңыз бул шилтемени бул жерде жана бул шилтемени бул жерде, Бир нечесин гана атаңыз.

Укмуштуу өрөөн - бул Этикалык AI менен алектенгендер үчүн сүйүүнү жек көрүү окуясы.

Биринчиден, кээ бир фон керек. AI менен байланышкан эң күчтүү этикалык көйгөйлөрдүн бири - адамдарды AI тутумунун сезимтал деп алдап калышы мүмкүн. Сураныч, эстүү болууга алыстан жакын турган бүгүнкү күндө бир дагы AI жок экенин эске алыңыз. Бул жөн эле азыр болуп жаткан жок. Менин "уятсыз" деген ырастоом бул AI же AI сезгич же ушунчалык жакын деп жарыялаган тынымсыз жана жаркыраган баш макалаларга карабастан жасалды. Malarkey. Биз AI сезиминде эмеспиз.

Ал жакка кантип барарыбызды билбейбиз. Бул болоорун билбейбиз. AI сезими - бул арзырлык кыял жана умтулуу, бирок мылтыктан секирип, биз ага жетүү алдында турабыз деп ойлобоңуз.

Албетте, эгер биз кандайдыр бир жол менен AI сезимин жоготуп алсак, муну долбоор менен же кокустуктан болсок, экзистенциалдык тобокелге туш болобуз деп катуу эскертип жатышат. Мындай ой жүгүртүү менен, балким, AI сезимин издөө анчалык деле баалуу эмес. Коркунучтуулугу, бул сезгич AI адамдардын айланасында болууга татыктуу эмес экенин аныкташы мүмкүн. Биз мүчүлүштүктөр сыяктуу тытылып калышыбыз мүмкүн. Же AIнын кулу болуп калат. Бул AI ачыктан-ачык тандоосунан улам келип чыгышы мүмкүн, же AI акыры биздин акылсыздыгыбыз менен бизди жок кылган кыямат күнү машина болуп калышы мүмкүн. AI сезимталдыкынын же өзгөчөлүгүнүн тынчсыздандырган натыйжалары жөнүндө менин камтуум үчүн караңыз бул жерде шилтеме.

Этикалык AI үчүн маанилүү маселе - AIди иштеп чыгуучулар жана AI тармагында иштегендер кээде адамдарды AI сезимдүү деп ойлошот. AI өзүн көрсөтүү ыкмасы, мисалы, роботтук формулировка же анын баарлашуу интерактивдүүлүгү адамдарды AI сезимтал деп ойлошуна тымызын түртүшү мүмкүн. Бул өз кезегинде сизди потенциалдуу бузулган примула жолуна алып барат.

Эгер сиз AI тутуму сезимтал деп ойлоп, психикалык тузакка түшүп калсаңыз, сиз ага ишенип, сезимдүү жандыктар жасай турган нерселерди жасай аласыз. Бирок азыркы AIнын эч биринде адамдык сапатка ээ болгон жалпы түшүнүк азырынча жок. Учурда биз көрүп жаткан AI адамдык жөндөмдүүлүктөргө келгенде өтө морт жана тайыз. AI тутумунун сезимтал экенине ишенүү менен, кандайдыр бир жагымсыз жана кооптуу сууга түшө аласыз.

Бул укмуштуудай өрөөн менен кандай байланышы бар?

Мына келишим.

Эске салсак, укмуштуудай өрөөн AI системасы же робот адамга окшош формулага жакындаган сайын адамдын жакындыгы акырындык менен жогорулай турганын айтып жаткандай сезилет. AI системасы абдан жакын болуу чекине жакындап калган учурда, бирок дагы деле ал жерде эмес, биз бир нерсе болбой калгандай коркунучтуу сезимге ээ болобуз. Ага чейин биз AI адам эмес экенин билчүбүз. Азыр биз ишенбейбиз. Биздин адамдык жакындыгыбыз төмөндөйт. AI же робот адамдык жөндөмдүүлүктөргө толугу менен ынангандан кийин гана биз түзмөккө жакындыгыбызды калыбына келтиребиз.

Бул жүрөктү кабыл алган AI иштеп чыгуучулары кыязы атайылап укмуштуудай туңгуюкка түшөр алдында, AIнын өзгөчөлүктөрү жагынан токтоп калууга умтулуп, алардын AIны укмуштуудай өрөөндөн сактап калууга аракет кылыңыз (эсиңизде болсун, Масахиро Мори да ушуну баса белгилеген). Иштеп чыгуучулар, сыягы, AI анча сезилбеген AI экенин жана адам эмес же бирдей эмес экенин так көрсөтүү үчүн, көп сандаган көрсөтмөлөр дагы эле бар экендигине ынануу менен жасашат.

AI этикасы бул чын жүрөктөн жасалган аракетти жалпысынан жактырышат.

Мунун жүйөсү түз. Ушунчалык маалыматка ээ жана AI иштеп чыгуучулары AI системасы адамдарды AIга адамга окшош объектилерди жалган деп адаштырбашы үчүн аракет кылып жатышат. Бул албетте жакшы кабар. Иштеп чыгуучулар укмуштуудай өрөөнгө сүңгүп кетпеш үчүн AIны атайылап жасашат. Адамдар AI сезимтал эмес экенин дароо түшүнүшөт.

AI иштеп чыгуучуларына мындай ыкманы колдонууга аракет кылуу оңой эмес. Чынында эле, бул алардын кадимки инстинкттерине жана амбицияларына каршы болушу мүмкүн.

Көптөгөн дооматтар AI иштеп чыгуучулары жана техникалары, жалпысынан, максаттар менен керектелет. Алар максатты көрүшөт жана көп учурда сокурдук менен ага чоң кызыгуу менен умтулушат. Токтоп, роза жыттаганга убакыт жок. Жарыштарга барабыз. AI тармагында нормативдик максат идеалдаштырылган AI болмок, ал адамдардан айырмаланбайт, анткени AI паритетте акылдуу түрдө бирдей болушу мүмкүн. Бирок биз ал жерде элек. Ошентип, укмуштуудай өрөөн экинчи даражадагы максатты камсыздайт, башкача бөгөттөлгөн укмуштуу өрөөнгө чейин конуп, ошентсе да алгылыктуу максатка айланат. Албетте, бул алтын шакек эмес, бирок бул “экинчи даражадагы” сыйлык жакшы экен, чоң рахмат, аны менен сыймыктанса болот.

Биз кыйратуучу максатка умтулган эң жогорку амбицияны өзгөрттүк жана аны туура иш кылуу үчүн логикалык жактан негизделген негизге алдык.

Ура!

AI этикасы боюнча жеңишке ээ болуңуз.

Бирок бир аз күтө туруңуз, спойлер эскертүүсү, биз дагы бир нерсени эске алышыбыз керек.

Эми ошол акылдуу AI иштеп чыгуучулар укмуштуудай өрөөн жөнүндө билишкендиктен, алар өздөрүнүн акылын жана техникалык чеберчилигин түпсүз туңгуюктан атайылап секирип өтүүгө бурушу мүмкүн, бирок аны алдамчылыктын көрүнүшү менен жасай алышат. Иштеп чыгуучулар муну чындыкка коошпойт деп билишсе да, AI толугу менен адамга окшош көрүнсүн.

Жөнөкөй ой ушундай болот. AI тутумуңуздун шляпасын төңкөрүшүнө жол бербеңиз жана адамдарды ошол коркунучтуу агымга кабылышына жол бербеңиз. AI адамдын жөндөмүнө ээ эмес экендигине кандайдыр бир ишарат же белги бере турган жактарды алып салыңыз. AI адамдын жөндөмүнө ээ эмес экенин жана бул чындыкты AI менен өз ара аракеттенген же ага көз каранды болгондордон жашыруу жөнүндө экенин билип туруп, муну тымызын түшүнүп жана кечиримсиз түрдө жасаңыз.

Кандай шайтан пландары.

Таң калыштуусу, укмуштуудай өрөөн AI иштеп чыгуучулары үчүн ойготкучтун бир түрү болушу мүмкүн, эгерде алар чындап эле адамдарды алдагысы келсе, алар туңгуюктан кутулуу үчүн жетиштүү акылдуу болушу керек. Алар муну толук интеллектке жетишүү менен эмес, анын ордуна AI адамды адаштыргандай кылып көрсөтүү үчүн түтүн жана күзгүлөрдү тургузуп жатышат. Эгерде AI иштеп чыгуучулар бул таң калыштуу өрөөн бар экенин түшүнүшпөсө, алар ага жалпысынан түшүп калмак. Бул адамзат үчүн жакшы, анткени адамдар AIнын бүгүнкү сапатына ашыкча ишенбестен, AIга болгон жакындыгын жоготот.

Өкүнүчтүүсү, тузак бар экенин билүү менен, аны айланып өтүүнү каалаган AI иштеп чыгуучулар муну кылуунун акылдуу жолдорун табышат.

Этикалык AI осуяттарына каршы упай алыңыз.

Бул укмуштуудай өрөөн жөнүндө AI этикачылары үчүн сүйүү-жек көрүү мамилесин кандай жаратып жатканын көрүп жатасызбы?

Эгер кылсаң каргыш, жок болсоң каргыш.

Мен бул укмуштуудай өрөөндү бир аз жогору текшерүү болгонун түшүндүм жана сиз күнүмдүк мисалдарды каалап жаткандырсыз. Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү багыттардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизиндеги чыныгы өзүн-өзү башкара турган унаалардын пайда болушу таң калыштуу өрөөндө эч нерсени жарык кылабы, эгер ошондой болсо, бул бизге эмне кылууну билдирет?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Түшүндүрмө катары айтканда, чыныгы өзүн өзү башкаруучу автоунаалар - бул КТ унааны толугу менен өз алдынча айдайт жана айдоо учурунда адам жардамы болбойт.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлдеги чыныгы өзүн-өзү айдаган унаа азырынча жок, ага жетүү мүмкүнбү же ага канча убакыт кетет дагы билбейм.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзү башкарган унаалар жана укмуштуу өрөөн

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Мен ишенем, бул мен айткым келген нерселердин негизинде жетиштүү эскертүүлөрдү берет.

Биз азыр өзүн өзү айдаган унааларга жана укмуштуудай өрөөнгө алып келген AI суроолоруна терең сүңгүп чыгууга даярбыз.

Бул жерде карала турган бул маселеге тиешелүү төрт аспекти бар:

1. Өзү башкарган унаалардын жалпы көрүнүшү

2. Өзү башкаруучу унаалар кайда "карап" жатат деген суроо

3. Өзүн-өзү башкарган унаалардын AI айдоо аракеттери

4. Өзү башкара турган унааларга жетүүнүн каражаты катары айдаган роботтор

Кошумча аспектилер да камтылган, бирок мейкиндиктин чектөөлөрү үчүн бул төрт тема AI негизиндеги өзүн-өзү айдаган унааларга байланыштуу укмуштуудай өрөөндү жарыктандыруу үчүн жетиштүү болот.

1. Автоунаалардын жалпы көрүнүшү

Бүгүнкү күндө өзүн-өзү башкаруучу унаалардын сыналышынын сүрөттөрүн же видеолорун көрдүңүз деп ишенем. Ошентип, сиз унаалардын көбү кошумча атайын жабдуулар менен жабдылган кадимки көрүнгөн унаалар экенин байкасаңыз керек. Мисалы, бир катар электрондук сенсорлорду камтыган чатырдагы стойка болушу мүмкүн. Сенсорлор кээде видеокамераларды, радар агрегаттарын, LIDAR түзүлүштөрүн, ультраүн датчиктерин жана ушул сыяктууларды камтыйт.

Футуристтик конструкциялар адаттагыдай көрүнгөн унаадан баш тартып, анын ордуна ички жана сырткы көрүнүшүн дагы жылмакай көрүнгөн автономдуу унаалар үчүн кайра конструкциялоону сунуштайт. Азыркы учурда, жалпы ой жүгүртүү кадимки унааларды колдонуу жөнөкөйрөөк болуп саналат жана бир эле учурда салттуу эмес көрүнгөн унаалар менен аралашып, күч-аракетти жумшоого аракет кылбоо үчүн (бул жалпы көз караштан кээ бир өзгөчөлүктөр бар, менин камтууумду караңыз бул жерде шилтеме).

Азыркы учурда негизги нерсе, эгер сиз жолдо бара жаткан болсоңуз жана жакын жерде өзүн-өзү башкарган унаага туш болсоңуз, анда автономдуу унаага орнотулган сенсорлордун бытырандылыгын гана байкап, анын өзүн-өзү башкарган унаа экенин дароо байкай аласыз. Бул тез визуалдык берүү. Албетте, сиз анын өзүн өзү айдай турганын так билбейсиз, анткени бул учурда айдоо башкаруулары адаттагыдай эле сакталып турат жана рулда адамдын резервдик айдоочусу болушу мүмкүн.

Ой жүгүртүүнүн бир түрү менен, сиз өзүн-өзү башкарган унаалар физикалык жактан өзгөчө болуп көрүнгөнү жана жакын жердеги адам башкарган унаалардагы адам айдоочулары, ошондой эле жакын жердеги жөө жүргүнчүлөр тарабынан оңой эле байкалып турганы өзгөчө ыңгайлуу экенин сунуштай аласыз. Өзүн-өзү башкара турган унаанын жакын жерде роумингде жүргөнүн түшүнүү сиздин сак болууга жардам берет, бул сизди сергек болууга жана AI унааны айдап баратканын же айдап баратканын эсиңизге салууга түрткү берет.

Өзү башкарган унаалар кадимки адам башкарган унаага окшош эле дейли. Бул, жок эле дегенде, эки жол менен реалдуу ишке ашырылышы мүмкүн. Биринчиден, сенсорлор кокусунан визуалдык текшерүү үчүн ачык-айкын болбошу үчүн жашыруун же формада болушу мүмкүн. Экинчиден, бардык унаалар, анын ичинде кадимки адам башкарган унаалар, бара-бара окшош сенсорлор менен жабдылышы мүмкүн, ал тургай, унаа негизинен адам башкарган унаа катары кала берет. Менин кийинки камтууну караңыз бул шилтемени бул жерде.

Эгер сиз өзүн-өзү башкарган унаалар сырткы көрүнүшү боюнча кадимки адам башкарган унааларга окшош болушу мүмкүнбү же болушу керекпи деген ойду ойлонуп көрсөңүз, анда таң калыштуу өрөөн бул идиште жашынып жаткан болушу мүмкүн деген ойго келесиз.

Көрдүңүзбү, өзүн өзү башкарган унааларга окшош унаалар укмуштуудай өрөөнгө жакын жерде жайгашкан деп мүнөздөлүшү мүмкүн. Негизинен, сиз бул робот же роботтук система экенин "билесиз". Бул дээрлик дароо эле секире турган сот.

Өзү башкарган унаалар адам башкарган унааларга окшош болгондо, балким, бул автономдуу унаалар робот сымал сырткы көрүнүшү боюнча таң калыштуу өрөөндө секирип өткөнүн көрсөтүп турат. Бизди укмуштуудай өрөөнгө түшүргөн бул эки физикалык көрүнүштүн ортосунда орто жер барбы?

Мүмкүн, сиз көчөдө келе жаткан өзүн-өзү башкарган унааны байкагандырсыз жана ал өзүн өзү башкарган унаадай сезилет, экинчи жагынан, сырткы көрүнүшү катуу автономдуу эмес, адам башкарган эмес. Өзүн-өзү башкара турган машина азыр үрөй учурарлык же тынчсыздандырган көрүнүштө деп талаша аласыз.

Өзүн-өзү башкарган унаа укмуштуудай өрөөнгө чөмүлдү окшойт.

Айтор, баары эле бул категорияга макул боло бербейт. Кээ бирөөлөр физикалык көрүнүштүн укмуштуудай өрөөнгө эч кандай тиешеси жок деп ырасташат. Кээ бирлери, албетте, укмуштуудай өрөөн катары белгилүү эч нерсе жок деп ырасташат.

Жогоруда айтылгандай, бул боюнча өз алдынча чечим кабыл алууга болот.

2. Өзү башкарган унаалар кайда карап жатат деген суроо

Автоунаалардын көбүн тынчсыздандырган нерсе, аларда айдоочунун орундукта эч кандай адам айдоочусу жок болгондуктан, унааны айдап баратканда "айдоочу" кайда карап жатканын аныктоо кыйынга турат.

Адатта, сиз айдоочулардын кайда карап жатканын карап көрөсүз. Мисалы, сиз жөө жүргүнчүлөр өтүүчү жерде жөө жүргүнчү болушуңуз мүмкүн, ал эми унаа өтмөккө жакындап баратат. Айдоочунун орундугунда отурган адамды кунт коюп карап, анын башы кайда бурулуп, көзү кайда карап турганын билүүгө аракет кыласың. Эгер сизди адам айдоочу көргөн деп ишенсеңиз, көчөдөн өтүү сизге ыңгайлуураак болушу мүмкүн. Ал эми, эгер адам айдоочу сизди көрбөй калса, анда сиз кесип өтүүдөн тынчсызданып жатасыз.

Кээ бир шаарларда бул жагынан мышык-чычкан гамбитинин бир түрү бар. Белгилүү бир шаардагы белгилүү бир маданий норма, эгерде сиз айдоочу менен көз байланышта болсоңуз, айдоочу "жеңип чыгат" жана алар айдоо кырдаалынын мыйзамдуулугуна карабастан, улантуу укугуна ээ болушу мүмкүн. Башка шаарлар толугу менен карама-каршы болушу мүмкүн, тактап айтканда, маданий норма - көз тийгенде жөө жүргүнчү "жеңет", ал эми адам айдоочу жөө жүргүнчүнүн аракеттерин кийинкиге калтырышы керек.

Биз бул салтты биздин шаарларыбыз менен жамааттарыбыздын ортосунда автоунаалар салыштырмалуу узак убакыт бою кабыл алган окшойбуз. Автоунаалардын пайда болушунун көйгөйү - айдоочунун отургучунда адам айдоочусу жок, демек, айдоочулардын башын жана көзүн айдоо ниетинин маданий көрсөткүчү катары колдонгон жөө жүргүнчү же жакын жердеги адам айдоочусу азыр жолу жок.

Автоунаа жасоочулар жана өзүн-өзү айдаган унааларды иштеп чыгуучулар бул пайда болгон маселени жакшы билишет. Сунуш кылынган чечимдердин бири өзүн-өзү башкаруучу унаанын автономдуу унаанын фараларын күйгүзүп же мүйүзүн кагышы мүмкүн. Дагы бир түшүнүк, өзүн-өзү башкара турган унаада катуу сүйлөткүчтүн бир варианты болушу мүмкүн жана AI айдоо тутумунун "ниеттери" эмнеде экенин айтып бериши мүмкүн. Бул идеялардын ар биринин олуттуу кемчиликтери бар.

Бирок башка сунуш сиз башында күлкүлүү деп эсептеген нерсени жасоону талап кылат. Сунуш автономдуу унаанын сыртына көз алмасына окшош шарларды коюудан турат. Бул шарлар алдыга жана артка бурула тургандай адамдын көзүнө окшошуп, AI "сизди көрдү" деген дароо ишарат берет (сиз муну өзүңүздүн багытыңызга караган көздүн алмалары менен чечмелейсиз). Мен бул ыкманы анализдеп чыктым бул жерде шилтеме.

Капотко же чатырга орнотулган чоң, таң калыштуу көз алмасы көрүнгөн, өзүн башкарган унаанын жолдо келе жатканын көргөндө кандай реакция кылат элеңиз?

Менимче, сиз бул коркунучтуу, балким, коркунучтуу деп ойлошуңуз мүмкүн.

Кээ бирөөлөр таң калыштуу өрөөндө жабдылган өзүн-өзү башкара турган машинанын үрөй учурарынан келип чыгат деп айтышат. Башкалар мунун укмуштуудай өрөөнгө эч кандай тиешеси жок деп катуу талашат. Мындай эксперттердин ичинен кээ бирлери укмуштуудай өрөөнгө кирбей туруп эле үрөй учурарлык болушу мүмкүн деп айтышат (б.а., укмуштуудай өрөөн дайыма үрөйдү учурат көрүнөт, бирок бардык коркунучтуулар бир гана таң калыштуу өрөөн аркылуу пайда боло бербейт). Башка бурч - бул шарлар, болжолдуу түрдө, көздүн алмасы азыраак көрүнгөн жана роботтошкон көрүнөт, же биз баарыбыз бул шарлардын көрүнүшүн сөзсүз түрдө кабыл алабыз жана алгачкы таң калыштуу реакция басаңдайт.

3. Өзүн-өзү башкарган унаалардын AI Айдоо аракеттери

Бүгүнкү күндө өзүн-өзү айдаган унааларды сынап көрүүлөрдүн көбү азыркы AI айдоо системалары, адатта, бир аз муздак жана мыйзамдуу жол менен айдоо үчүн программаланганын көрсөттү. AI айдоо системасы, адатта, өзүн-өзү айдаган унааны Stop белгилерине чейин токтотот. AI айдоо системасы светофор кызыл болуп турганда кесилиштерде батыл чуркай албайт. Бул туура эмес айдоо тажрыйбалары адам айдоочулардын облусу болуп саналат.

Башкача айтканда, сиз өзүн-өзү башкара турган унаа өзүн өзү башкарган унаа экенин, ал көрсөтүп жаткан айдоо стили боюнча болжолдоого болот. Автономдуу унаа кадимки адам башкарган унаадай көрүнсө да, сиз айдоо аракеттерин байкап, балким, логикалык жактан аны AI системасы башкарып жатат деп жыйынтык чыгарсаңыз болот.

Кээ бирөөлөр биз AI айдоо тутумдарын айдоочулардын кылыктарына көбүрөөк окшош кылышыбыз керек деп эсептешет, ошондо алар айдоодо нормативдик ыкмаларга эффективдүү аралашат. Менимче, сиз муну от менен от менен күрөшүү деп түшүнсөңүз болот.

Муну кылуунун мааниси барбы?

Ачык скептиктер жана сынчылар бул идеяны жек көрөрүн билиңиз. Алар биз AI айдоо тутумдары туура жана кылдаттык менен айдашын каалайбыз деп катуу талашып-тартышат. Адашып бараткан айдоочулардай болуп программаланган жолдорго миллиондогон өзүн-өзү башкаруучу унааларды кошуу чоң коркунучтуу түш сыяктуу сезилет. Мен бул талаштуу сунушту талкууладым бул жерде шилтеме.

Келгиле, таң калыштуу өрөөндү колдонуу менен дилемманы кайра карап көрөлү.

AI айдоо системасы айдоо аракеттери менен катуу мыйзамдуу болгондо, бул роботтук система болушу мүмкүн экенин көрсөтүп турат (айдоочулар муну мойнуна алышса да, азыркы дүйнөдө алар алыс жана аз көрүнөт). Эгерде AI айдоо системалары адам айдоочулары сыяктуу укмуштуудай айдай турган болсо, бул таң калыштуу өрөөндө секиреби же таң калыштуу өрөөндө түшөбү?

Ошону ойлонуп көр.

4. Өзү башкара турган унааларга жетүүнүн каражаты катары айдаган роботтор

Камтуу үчүн бул акыркы пункт ушул төртөөнүн эң таң калыштуусу.

Кээ бир AI иштеп чыгуучулары унааларды айдай турган роботторду жасоого аракет кылып жатканын такыр билбесеңиз керек. Робот робот буттары жана буту катары робот колдору бар ар кандай жагынан адамга окшош. Кадимки адам башкарган машинанын өзүн өзү башкарган унаа болушун кааласаңыз, сиз жөн гана бул адистештирилген AI айдоо роботун унааңыздын айдоочусунун отургучуна коесуз. Бул түшүнүк боюнча менин анализимди караңыз бул жерде шилтеме.

Эмне үчүн биз роботторду айдоону каалайбыз?

Мындай роботтун сулуулугу – азыркы адам башкарган унаалардын бардыгы бир түндүн ичинде өзүн-өзү башкаруучу унаага айланышы мүмкүн. Сиз жөн гана сатып аласыз, ижарага бересиз же кандайдыр бир жол менен өзүңүзгө айдоочу робот аласыз. Айдоочу саякатка чыкканда роботту айдоочунун отургучуна отургузасыз. Робот сизди көздөгөн жериңизге жеткирет. Эгер сиз адам башкаруусуна өтүүнү кааласаңыз, роботту унаадан чыгарасыз, балким, кийинчерээк колдонуу үчүн багажга салып коюңуз.

Бүгүнкү күндө Кошмо Штаттарда 250 миллионго жакын кадимки автоунаалар бар. Кээ бирөөлөр өздөрү башкара турган унаалар пайда болгондон кийин алар таштандыга айланат деп ишенишет. Кадимки унааларды жараксыз абалга келтиргендин ордуна, балким, биз аларды өзүн-өзү башкаруучу унааларга айландырууга аракет кылсак болот, бирок бул абдан кымбат идея. Этияттуураак көрүнгөн ыкма айдоо роботторун жеткиликтүү кылуу болмок.

Эгер сиз жашаган көчөдө кадимкидей көрүнгөн унааны көрүп, анын рулунда робот болсо, кандай реакция кылат элеңиз?

Мүмкүн үрөй учурарлык.

Албетте, талаш-тартыштуу дооматтардын бири, бул үрөй учурарлык роботтун кадимки машинаны айдап бараткан атактуу же атактуу таң калыштуу өрөөнгө түшүп баратканына байланыштуу.

жыйынтыктоо

Этикалык AI көз карашынан алганда, укмуштуудай өрөөн кызыктуу табышмакты тартуулайт.

AIда укмуштуудай өрөөнгө толук ишенгендер жана ишенбегендер бар. Бирок, сиз укмуштуудай өрөөнгө ишенесизби же ишенбесеңиз дагы, теманын өзү курчап турат. Сиз башыңызды жашыра албайсыз жана конструкция жок деп айта албайсыз. Конструкция идея катары жашайт жана кандайдыр бир көрүнүштө вирустук жактан күчтүү. Аны жек көрөм же сүйөм, каргашалуу же балким бийик тема улана берет.

AI бурчунун этикасынан укмуштуудай өрөөндүн артыкчылыктары жөнүндө менин мурунку баяндамама ылайык, анда сүйүү жана жек көрүү мамилеси бар. Этикалык AI чөйрөсүндөгүлөр укмуштуудай өрөөндү кабыл алышы керекпи, же укмуштуудай өрөөндөн баш тартышы керекпи, же чындыкка карата бир аз нейтралдуу болуп, анын ордуна ал жөнүндө болуп жаткан ар башка ишенимдерден улам пайда болгон таасирге көңүл буруш керекпи.

Бул чакырык көрүнүктүү экономист Адам Смитти көтөрөт, анткени ал бир жолу Скептицизм шаарынан бараткан жолдо эки түшүнүксүз өрөөн аркылуу өтүш керек деп айткан.