AI этикасын Кытайдын эң акыркы ойлоп тапкан AI партиясы - лоялдуулуктун акыл-эсин окууга арналган бетти таануу аттестациясы эзүүчү автономдуу системаларды чагылдырышы мүмкүн.

Сен ишенимдүүсиңби?

Теориялык жактан алганда, сиздин ачык иш-аракеттериңизди текшерип, берилгендик сиздин иш-аракеттериңизден көрүнүп турабы же жокпу, билүүгө болот.

Анын ордуна сиздин оюңузду окуп, ошол эле учурда сиздин берилгендик коэффициентиңизди аныктоо үчүн жүзүңүздү сканерлөө аракети болду дейли. Бул өтө коркунучтуу; сиз дароо жек көрүшү мүмкүн. Келечектеги дистопиялык коомду элестеткен жинди илимий-фантастикалык фильмдердин бири окшойт.

Кудайга шүгүр, өзүңүзгө тымызын шыбырайсыз, бизде бүгүн андай нерсе жок.

Ой, аттарыңарды кармагыла.

1-жылдын 2022-июлунда Кытайда интернетте жарыяланган изилдөө макаласында адамдардын мээ толкундарын жана алардын мимикаларын Кытайдын Коммунисттик партиясына (ККП) лоялдуу же лоялдуу эместигин эсептөө үчүн баалоону камтыган изилдөө сүрөттөлгөн деген жаңылыктар жакында эле жаркырап жатат. . Ошентип, барасың, келечек барган сайын жакындап баратат, жок эле дегенде, биз качандыр бир күнү пайда болушу мүмкүн деп корккон дистопиялык коомго жетүү жагынан.

Изилдөө кагазы интернетте жарыяланган шилтемеден тез эле жок болду.

Кыязы, интернетти тез каптаган тез жек көрүү кагазды алып салуу үчүн жетиштүү болду. Же, балким, изилдөөчүлөр жөн гана бир нече сөздү өзгөртүүнү жана башка зыянсыз оңдоолорду киргизүүнү каалашат, алар i чекиттеринин чекиттери жана t тамгалары кайчылаш болушун камсыз кылуу үчүн кылдат мүмкүнчүлүккө ээ болгондон кийин репост кылууну максат кылышат. Гезит экинчи өмүргө ээ болобу, же жокпу, көрүү үчүн көзүбүздү ачык кармашыбыз керек.

Мен алдыга барып, изилдөө жөнүндө биз билген нерселерге терең сүңгүп чыгам жана AI менен байланышкан иштин бул түрү баарыбыз үчүн кандай мааниге ээ экендиги жөнүндө чекиттерди бириктирүүгө аракет кылам. белгилүү бир өлкө менен чектелген. Менин чагылдыруум бул жаңылык тууралуу башка акыркы репортаждарга караганда бир аз кененирээк болот, андыктан мени менен чыдап туруңуз.

Менин кошумчалагандай, биз болжолдонгон кагаздан ала турган AI этикасынын көптөгөн маанилүү сабактары бар. Менин AI этикасы жана этикалык AI жөнүндө үзгүлтүксүз жана кеңири чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Бул жерде буга чейин изилдөө изилдөө жөнүндө айтылган.

Кыязы, кээ бир “ыктыярчылар” ККПны кабыл алуу боюнча экспериментке катышуу үчүн тартылган. Алар ыктыярдуу ыктыярчыларбы же ыктыярдуу же башкарылуучу ыктыярчыларбы, белгисиз. Талкуу үчүн алар изилдөөнүн предмети болууга макул болгон деп ойлойбуз.

Мен муну жөн эле шылдың болбош үчүн айтып жатам. Адам субъекттеринин катышуусунда эксперимент жасалган сайын, мындай субъекттерди изилдөө аракетине тартуу жана тартуу боюнча жалпы кабыл алынган практикалардын көптүгү бар. Бул жарым-жартылай адамдарды экспериментке алдап же мажбурлап, кээде терс психологиялык кесепеттерге алып келген, ал тургай, физикалык зыян алып келген мурунку изилдөөлөргө да байланыштуу. Илимий коомчулук тымызын изилдөөлөрдүн бул түрлөрүн кыскартууга абдан аракет кылып жатат жана адам менен байланышкан изилдөөлөргө кошулуу үчүн изделгендерге ар кандай ачыктоолорду жана эскертүүлөрдү берүүнү талап кылат.

Түшүндүрүү үчүн, мындай акылдуу жана абийирдүү көрсөтмөлөрдү баары эле сактай бербейт.

Андан ары 43 субъект бар экени кабарланып, алар Кытайдын Коммунисттик партиясынын мүчөлөрү экени айтылды. Эксперимент үчүн предметтерди тандоо эксперимент үчүн абдан маанилүү экенин, ошондой эле эксперименттин натыйжалары жөнүндө кийин жетүү үчүн аракет кыла турган ар кандай тыянактарды эске алуу керектигин унутпаңыз.

Элдин атактуу Star Wars сериясын кандай кабыл алганы боюнча эксперимент жасагым келет дейли. Эгер мен баары Жылдыздар согушун жек көрүүчү предметтерди алдын ала тандап алсам (мындай адамдар кантип болушу мүмкүн?) жана мен аларга Жылдыздар согушунун видеоклиптерин көрсөтсөм, алар дагы эле Жылдыздар согушун жактырбайт деп айтышы мүмкүн. Бул псевдо-илимий эксперименттин негизинде, балким, мен тымызын түрдө адамдар - жалпысынан - менин "кылдаттык менен" даярдалган изилдөөмдө "далилденген" (көз ирмеп) "Жылдыздар согушун" жек көрүшөт деп ырастайм.

Сиз менин рулетка дөңгөлөктөрүн бурмалаганымды билбесеңиз керек, мен күткөн предметтерди алдын ала тандап алып, мен күткөн натыйжаларды берет. Албетте, эгер мен атайылап анын ордуна Жылдыздар согушун сүйгөн жана ынталуу күйөрман болгон адамдарды жалдаган болсом, анда алар ошол Жылдыздар согушунун клиптерин көрүп, кубанганын айтышмак. Дагы бир жолу, адамдардын, жалпысынан, Жылдыздар согушуна кандай мамиле кылышы жөнүндө кандайдыр бир тыянак, күч-аракет үчүн тандалган предметтердин алдын ала тандалып алынган топтому тарабынан жумшартылат.

ККПга багытталган изилдөө субъекттерди киоск сымал видео дисплейдин алдына отургузуп, ККПнын саясаты жана жетишкендиктери тууралуу ар кандай макалаларды окуп берди. Бул, балким, субъекттер дуушар болуп жаткан "эксперименталдык дарылоо" болуп саналат. Экспериментти пландаштырып жатканда, адатта, катышуучуларга таасир эткендигин көргүңүз келген эксперименталдык факторду же аспектти ойлоп табасыз.

Сыягы, изилденип жаткан изилдөө маселеси бул материалдарды карап чыгуу актысынын субъекттерге ККП тууралуу кийинки таасирлерине карата көбөйүү, азаюу же бейтарап болуу жагынан кандайдыр бир таасирин тийгизеби деген суроо болду.

Классикалык нөлдүк гипотезада, сиз керектелген материалдар субъекттер тарабынан айтылган кийинки таасирлерге эч кандай таасир тийгизбейт деп айтуу үчүн ушундай изилдөө уюштура аласыз. Алардын ККПга карата көз карашын салыштырып көргөндөн кийин, алардын таасиринде статистикалык маанилүү өзгөрүүлөр болгон-болбогонун статистикалык түрдө көрүүгө аракет кылмаксыз.

Мурунку жана кийинки статистикалык жактан айырмаланбашы мүмкүн, ошондуктан сиз бул конкреттүү изилдөө үчүн көрсөтүлгөн материалдар (эксперименталдык дарылоо) алардын таасирлерине эч кандай таасир эткен жок деп болжолдуу тыянак чыгарсаңыз болот. Башка жагынан алганда, статистикалык жактан туура айырма бар болсо, анда сиз материалдар алардын таасирлерин (жана, монетанын экинчи тарабында, эгерде кийинкиси мурункуга караганда азыраак болсо, бул материалдар алардын таасирлерин азайткан же төмөндөткөн дегенди билдириши мүмкүн).

Мындай изилдөөдө каралышы керек болгон бир топ боштуктар бар.

Мисалы, биз, адатта, эксперименталдык дарылоону алгандар менен салыштыра турган контролдук топтун болушун каалайбыз. Мына эмне үчүн. Материалдарды окуу үчүн киосктун алдында отуруп алып, таасирлер эмне үчүн өзгөртүлгөнүнө чыныгы негиз болду дейли. Бул керектелүүчү материалдардын табияты таасир таасири үчүн болжол менен маанилүү эмес болушу мүмкүн. Жөн эле отуруп алып, кандайдыр бир нерсени, мисалы, күлкүлүү нерселерди жасаган мышыктар жөнүндө акыркы окуяларды окуу, жалгыз эле айла кыла алат. Ошондуктан, биз CCP саясаттары жана жетишкендиктери боюнча материалдардан башка, окуу үчүн башка материалдарга дуушар болгон кээ бир предметтерди биздин көзөмөл тобубузга киргизишибиз мүмкүн.

Биз бул окуяда жасалганын билбейбиз (эч ким бул жагын айта элек окшойт).

Мен сизди изилдөөнүн медиа жардыргыч бөлүгү жөнүндө кыжырданганыңызды түшүнөм. Биз ошол бөлүккө тездик менен көчөбүз.

Көрсөтүлгөн материалдарды окуунун натыйжасында бул эксперименттин субъекттери жооп кайтарганын же алардын таасирлерин өзгөрткөндүгүн кантип аныктай алабыз?

Алардан сураш үчүн салттуу каражат болмок.

Сиз, балким, аларга ККП тууралуу таасирлерин сураган анкетаны алдын ала тапшыргансыз. Андан кийин, эксперименталдык дарылоонун таасиринен кийин, көрсөтүлүп жаткан материалдарды окуу сыяктуу, биз дагы бир анкета өткөрө алабыз. Андан кийин предметтердин мурда жана кийинки негизинде берген жооптору салыштырылышы мүмкүн. Эгер биз контролдоо тобун да колдонсок, контролдук топтун жооптору мурункудан кийинкиге олуттуу өзгөрбөйт деп ойломокпуз (мышыгы эркелеткен окуяларды көрүү алардын CCP таасирлерине таасир этпеши керек деген ишеним менен).

Субъекттерден алардын таасирлерин суроонун бул аракети көрүнгөндөй оңой эмес.

Эксперименттеги субъекттер сиз алардын эксперименталдык дарылоого белгилүү бир жол менен жооп беришин каалап жатканыңызды сезди дейли. Мындай учурда, алар эксперименталдык башкаруунун кийинки бөлүгүндө өздөрүнүн реакцияларын атайылап ашыра айтып коюшу мүмкүн. Сиз муну албетте көрдүңүз. Эгер мен базарга келе жаткан жаңы сода үчүн даам сынап жаткан болсом, анда мен газдалган сууну абдан жактыргандай иш кылам, балким, сода өндүрүүчүнүн жарнамасына тартылып, он беш мүнөттүк атак-даңкка ээ болом деп үмүттөнөм. .

Негизгиси, жөн гана адамдардан алардын оюн сураш, өзгөрүүлөрдү аныктоонун ишенимдүү каражаты эмес. Бул бир мамиле болуп саналат. Башка ыкмалар да көп учурда ишке ашырылышы мүмкүн.

Бул атайын изилдөө субъекттердин реакцияларын өлчөө үчүн кандайча тандаган?

Кыязы, жок дегенде эки ыкма колдонулган. Методдордун бири бетти сканерлөө жана субъекттердин реакцияларын баалоо үчүн AI негизиндеги бетти таануу программасын колдонуудан турган. Башка ыкма мээ толкундарын сканерлөөнүн кандайдыр бир түрү болгон. Мээ толкунун сканерлөөчү аппараттардын кандай түрү колдонулганы жана AI негизиндеги мээ толкундарын талдоочу программалык камсыздоонун кандай түрү колдонулганы азырынча айтыла элек.

Ар кандай билдирүүлөр изилдөөдө эксперименттин мүнөзү жөнүндө мындай деп айтылганын көрсөттү: "Бир жагынан, бул партия мүчөлөрү ой жүгүртүүнү жана саясий билимди кандай кабыл алганын аныктай алат." Изилдөөдө бул да айтылган имиш: "Экинчи жагынан, ал ой жүгүртүү жана саясий билим берүү үчүн реалдуу маалыматтарды берет, ошондуктан аны өркүндөтүп, байытууга болот." Изилдөө Кытайдын Хэфэй комплекстүү улуттук илимий борборунун колдоосу астында жүргүзүлүп жатканы менен түшүндүрүлгөн.

ММКлар изилдөөдө бетти таануу сканерлери жана мээ толкундарын сканерлөө ККП жөнүндө кийинки таасирлердин күчөгөнүн аныктоого жардам берген деген дооматка ишарат кылганын болжолдойт.

Сизге белгилеп кетким келет, колдонулган системаларды түздөн-түз карап чыгып, изилдөө ишин кылдат изилдей албай туруп, биз ал AI-негизделген системалар кантип так колдонулгандыгын билбейбиз.

Бул субъекттер эксперименталдык дарылоого эмес, эксперименталдык шартка жооп бериши мүмкүн. Изилдөөгө катышкан ар бир адам тынчсызданышы мүмкүн. Бул мээ толкундарын сканерлөө же беттин үлгүсүн анализдөө аракеттерин чаташтырышы мүмкүн. Ошондой эле, алар изилдөөчүлөргө жагууга түрткү болушу мүмкүн, материалдарды көргөндөн кийин позитивдүү ойлорду ойлоп табууну чечишти жана бул теориялык жактан мээ толкунунун сканерлеринде жана беттин сканерлеринде чагылдырылышы мүмкүн (мүмкүн, бирок бул жерде улуу Мындай талаш-тартыштардын негиздүүлүгү боюнча жалындуу талаш-тартыштар, мен бир аздан кийин түшүндүрүп берем), натыйжаларды бурмалап, алардын оң таасирин тийгизгендигин көрсөтүүгө үмүттөнөм.

Твиттердин реакциясы AI-күч берген мээ толкундарын сканерлөө жана бетти таануу түшүнүгүнүн өзү эле үрөй учурарлык жана чектен чыккан иш экенин кескин сынга алды. Мындай түзүлүштөрдү адам желмогуздары гана колдонушат, деп бизге ошол твиттердин айрымдары айтышат.

Мен сизден орой жана таң калыштуу сюрприз боло турган нерсеге отуруп, даярданыңыз деп суранышым керек.

Дүйнө жүзү боюнча изилдөө иштеринде ошол эле технологияларды колдонгон көптөгөн изилдөөчүлөр бар. Бул, албетте, мээ толкундарын сканерлөө жөндөмдүүлүгү изилдөө аракетинде адам субъекттерине колдонулган биринчи жолу эмес. Бул, албетте, эксперименталдык максаттарда адам субъектилеринде бетти таануу биринчи жолу колдонулган жок. Атүгүл үстүртөн онлайн издөө сизге ушул түзмөктөрдүн түрлөрүн колдонгон бардык өлкөлөрдө жана лабораторияларда көптөгөн жана көптөгөн эксперименталдык изилдөөлөрдү көрсөтөт.

Эми, ККПга берилгендикти өлчөө үчүн аларды колдонуу сиз көп көңүл бура турган нерсе эмес. Мындай AI мамлекеттик башкаруу үчүн колдонулганда, алар айткандай, кызыл сызык өтүп кеткен.

Бул бүт комплекттин жана кабуддун ачык муздаткыч бөлүгү.

Көпчүлүктүн тынчсыздануусу, эгерде өкмөттөр колдогу режимдерге берилгендикти аныктоо үчүн мээ толкундарын сканерлөө технологиясын жана жүзүн таанууну колдонушса, биз өзүбүздү дистопиялык зыян дүйнөсүндө табабыз. Коомдук көчөдө бара жатканыңызда, чырак мамысына орнотулган аппарат сиздин берилгендик коэффициентиңизди жашыруун аныктап алышы мүмкүн.

Эгер жүзүңүз сизди жетиштүү лоялдуу экениңизди билдирбесе, же мээ толкунун сканерлөө ушундай эле көрүнүштү көрсөтсө, өкмөттүк бандиттер күтүлбөгөн жерден чуркап келип, сизди кармап алышы мүмкүн деп болжолдойт. Нервсиз. Абсиз. Уруксат берилбеши керек.

Бул жаңылыкта ызы-чуу жана кыжырданган баш макаланын жаралышынын негизги себеби.

Муну элестетиңиз. Биз, балким, биз ишенимдүү же жокпу, чечиш үчүн AIдагы эң акыркыларды колдонгон компьютердик системаларды жасап, андан кийин колдонууга киргизебиз. Эгерде сиз адамдарды жалдап отуруп, ошону менен алектенүүгө аракет кылсаңыз, сизге көп адамдар керек болот жана сизде логистикалык маселе пайда болот жана аларды бардыгына көз салып турууга аракет кылат. AI-негизделген тутумда, электрдик түзүлүштөрдү чырак мамыларына, имараттардын капталдарына ж.б. орнотуу керек. Берилгендикти сканерлөө 24 × 7, ар дайым, бардык жерлерде ушундай жабдылган болушу мүмкүн. Бул андан кийин массалык маалымат базасына берилиши мүмкүн.

Биз бардыгын көрүп турган, бардыгын көрүп турган коомдук эзүүчү экосистеманын чоң тиштери болгон адамдар болобуз. Көрүүчү көз биздин эмне кылып жатканыбызды карап эле турбайт. Бул ошондой эле биздин жүзүбүз өкмөткө берилгендигибиз жөнүндө эмнени айтып жатканын чечмелеп жатат. Биздин акыл-эсибиз да ушундай коркунучтуу себеп боюнча текшерилиши керек.

Ий!

Мындан дагы экинчи даражадагы кооптонуу бар, бирок, балким, Чоң бир туугандын кесепеттерине салыштырмалуу анча деле тикенектүү эмес.

Бул эки актуалдуу суроону ойлонуп көрүңүз:

• Мээ толкунун сканерлөө сиздин берилгендигиңизди тастыктай алат деп ишенимдүү айта алабызбы?
• Бетти таануу сканери сиздин берилгендигиңизди тастыктай алат деп ишенимдүү айта алабызбы?

Күтө туруңуз, балким, өпкөңүздүн үстүнөн кыйкырып жаткандырсыз.

Мен түшүнөм жана сиз ишенимдүүлүк аспектилерине анча маани бербешиңиз мүмкүн экенин түшүнөм. Муну ишенимдүү түрдө аткаруу мүмкүнбү же жокпу, анын такыр аткарылып жатканына караганда анча маанилүү эмес. Эч ким мындай көзөмөлгө алынбашы керек. Технология бул тапшырмага ылайыктуу иштейби же жокпу, унутуп коюңуз. Биз иштин башында эле колго албашыбыз керек.

Кандай болгон күндө да, жооп азыр такыр жок, тагыраак айтканда, "мээ толкундарын сканерлөө" жана бетти таануу сыяктуу ар кандай окшоштуктарды жасаган AI системалары бул секирик жасоого жетишерлик жөндөмсүз.

Балким, сиз акыркы убакта кээ бир бет таануучулар өздөрүнүн жүзүн таануу тутумдары кандайча колдонулуп жаткандыгы жагынан бир аз артка кайтканын көргөн чыгарсыз. Алдыда боло турган тилкеде мен, мисалы, Microsoft компаниясынын Microsoft тарабынан бетти таануу куралдарын технология жасай алгандан же колдонулушу керек болгон максаттардан алыскы максаттарда колдонуп жаткандардын агымын токтотуу боюнча акыркы аракеттерин талкуулайм. . Сизди мурунтан эле AI этикасынын бетти таануу жөнүндө кеңири жарыяланган суроолоруна карап көргөнүм кызыктырышы мүмкүн, караңыз бул жерде шилтеме. Мен ошондой эле мээ толкундарын сканерлөө аренасын талкууладым, менин талкууну караңыз бул жерде шилтеме.

Кыскача айтканда, мээ толкунун сканерлөө же бетти таануу сканери кимдир бирөөнүн берилгендигин чагылдырат деген ишеничтүү же акылга сыярлык каражаттар азырынча жок. Атүгүл болжолдуу негизги аспектилери, мисалы, сиз бул сканерлерди кимдир бирөөнүн бактылуу же кайгылуу экенин ишенимдүү түрдө салыштыра аласызбы, дагы эле кызуу талкууланууда. Берилгендик сыяктуу аморфтук жана өзгөрмөлүү нерсеге каршы турууга аракет кылуу өтө алыс көпүрө.

Кошумчалай кетейин, кээ бирөөлөр биз акыры ал жерге жетебиз деп катуу ишенишет. Ошон үчүн мен ал жакка эч качан жете албайбыз дегендин ордуна, биз ал жерде элек экенибизди кылдаттык менен белгилеп коюуга аракет кылдым. Эч качан чоң сөз эмес. Эгер сиз мунун айланасында ыргыта турган болсоңуз, так болушуңуз керек эч качан мүмкүн болушу мүмкүн («эч качан» ондогон жылдардан кийин, кылымдар өткөндөн кийин жана миңдеген же миллиондогон жылдардан кийин камтыларын эске алуу менен).

Айрымдар бул кытай лабораториясынын изилдөөсү жөнүндөгү жаңылыкка дүйнө AIны туура эмес жана кооптуу колдонууга канчалык коркунучтуу экендигинин көрсөткүчү катары кабыл алышты. Мен сиз менен бир аздан AI этикасы эмнени билдирерин бөлүшөм. Бул сизге бул өзгөчө изилдөө эмне үчүн Этикалык AIнин жалпы кабыл алынган осуяттарынын бардыгын болбосо да, көбүн бузуп жатканын айкыныраак түшүнүүгө жардам берет.

Ишенесизби, ишенбейсизби, кээ бирөөлөр бул изилдөөгө байланыштуу моле дөңсөөсүнөн тоо жасап жатабыз деп айтышкан.

Бизби?

Каршы аргумент - молехилл жакында тоого айланат. Карлуу адырдан тоголонгон сайын чоңоюп, чоңоюп баратат деген ылакап түшүнүгүндө биз кар тополоңунун жолго түшүүсүн токтотушубуз керек. Эгерде биз изилдөөлөрдүн бул түрлөрүнө чыдай турган болсок, анда биз бул кар тополоңунун сапарын баштоосуна жол берип жатабыз. Мындай изилдөөлөрдү ачык айтуу жана чакыруу менен, балким, биз кардын алдын ала алабыз.

Бир нерсе анык, биз AI аспектилери жөнүндө сөз болгондо, биз Pandora кутучасын ачуунун босогосунда турабыз жана кутучанын ачылышына жол бербөө же жок дегенде чыккан нерсеге этияттык менен мамиле кылуу үчүн кандайдыр бир каражаттарды таба алабызбы деген суроо турат. куту өзүнүн шайтандык мазмунун ачкандан кийин.

Эгерде башка эч нерсе болбосо, мындай медиа бороондор AI менен байланышкан жаман иштердин алдын алуу жана AI менен пайда болгон көптөгөн экзистенциалдык тобокелдиктерди алдын алуу боюнча кеңири талкууну жаратат деп үмүттөнөбүз. Биз AI этикасы жана этикалык AI ойлору боюнча коомдук маалымдарыбызды бир тепкичке көтөрүшүбүз керек.

AI системаларынын бул түрлөрүнүн негизинде жаткан жапайы жана жүндүү ойлор жөнүндө дагы бир нече эт жана картошкага киришүүдөн мурун, келгиле, абдан маанилүү темалар боюнча бир нече кошумча негиздер түзөлү. Биз AI этикасына жана айрыкча Machine Learning (ML) жана Deep Learning (DL) пайда болушуна кыскача киришибиз керек.

Бүгүнкү күндө AI тармагында, атүгүл AI талаасынан тышкары жерлерде эң катуу үндөрдүн бири этикалык AIнин көбүрөөк окшоштугу үчүн кыйкырыктардан турат деп бүдөмүк билесиз. Келгиле, AI этикасына жана этикалык AIге кайрылуу эмнени билдирерин карап көрөлү. Анын үстүнө, мен Machine Learning жана Deep Learning жөнүндө айтканда эмнени айткым келгенин изилдейбиз.

ЖМКнын көңүлүн бурган AI этикасынын белгилүү бир сегменти же бөлүктөрү терс көз караштарды жана теңсиздикти көрсөткөн AIдан турат. AIнын акыркы доору башталганда, азыр кээ бирөөлөр деп атаган нерсеге энтузиазмдын чоң жарылуу болгонун билесиз. AI For Good. Тилекке каршы, ошол шаркыратма толкундан кийин биз күбө боло баштадык AI For Bad. Мисалы, AI негизиндеги жүздү таануунун ар кандай системалары расалык көз караштарды жана гендердик көз караштарды камтыганы аныкталган, алар жөнүндө мен талкууладым. бул жерде шилтеме.

каршы күрөшүү аракеттери AI For Bad активдүү жүрүп жатат. Кыйкырыктан тышкары укуктук туура эмес иш-аракеттерди ооздуктоого умтулуу, ошондой эле AIнын жамандыгын оңдоо үчүн AI этикасын кабыл алууга олуттуу түрткү бар. Биз AIны өнүктүрүү жана жайылтуу үчүн негизги этикалык AI принциптерин кабыл алып, бекитишибиз керек деген түшүнүк бар. AI For Bad жана ошол эле учурда артыкчылыктууларды жарыялоо жана алдыга жылдыруу AI For Good.

Тиешелүү түшүнүк боюнча, мен AIны AI көйгөйлөрүн чечүүнүн бир бөлүгү катары колдонууга аракет кылып, ушундай ой жүгүртүү менен от менен от менен күрөшүүнүн жактоочусумун. Биз, мисалы, этикалык AI компоненттерин AI тутумуна киргизсек болот, ал AIнын калган бөлүгү кандай иштерди жасап жатканын көзөмөлдөп, реалдуу убакытта дискриминациялоочу аракеттерди байкай алат, менин талкууну караңыз бул жерде шилтеме. Бизде ошондой эле өзүнчө AI системасы болушу мүмкүн, ал AI этикасынын мониторунун бир түрү катары иштейт. AI системасы башка AI этикага жатпаган туңгуюкка баратканда көзөмөлдөө жана аныктоо үчүн көзөмөлчү катары кызмат кылат (мындай мүмкүнчүлүктөр боюнча менин анализимди караңыз: бул жерде шилтеме).

Бир аздан кийин мен сиз менен AI этикасынын негизги принциптерин бөлүшөм. Бул жерде жана бул жерде калкып жаткан көптөгөн тизмелер бар. Сиз азырынча универсалдуу кайрылуунун жана макулдашуунун бирдиктүү тизмеси жок деп айта аласыз. Бул жагымсыз кабар. Жакшы жаңылык, жок эле дегенде, жеткиликтүү AI этикасынын тизмелери бар жана алар абдан окшош. Мунун баары негиздүү конвергенциянын бир түрү аркылуу биз AI этикасынын жалпы жалпылыгына карай жол таап жатканыбызды көрсөтүп турат.

Биринчиден, келгиле, AI жасаган, талаага чыгарган же колдонгон адам үчүн эмне маанилүү экенин көрсөтүү үчүн жалпы этикалык AI осуяттарынын айрымдарын кыскача ачып берели.

Мисалы, Ватикан тарабынан айтылгандай Рим AI этикасына чакырат жана мен тереңирээк карадым бул жерде шилтеме, булар алардын аныкталган алты негизги AI этикасынын принциптери:

• ачыктык: Негизи, AI системалары түшүнүктүү болушу керек
• Кошуу: Ар бир адам пайда көрүшү үчүн жана бардык инсандарга өзүн көрсөтүү жана өнүктүрүү үчүн мүмкүн болгон эң жакшы шарттарды сунуштоо үчүн бардык адамдардын муктаждыктары эске алынышы керек.
• жоопкерчилиги: AI колдонууну иштеп чыккан жана жайылткандар жоопкерчилик жана айкындуулук менен жүрүшү керек
• Калыс: Адилеттүүлүктү жана адамдык ар-намысты коргоп, бир жактуулукту жаратпаңыз же аракет кылбаңыз
• ишенимдүүлүк: AI системалары ишенимдүү иштей алышы керек
• Коопсуздук жана купуялык: AI системалары коопсуз иштеши керек жана колдонуучулардын купуялыгын сыйлашы керек.

АКШнын Коргоо министрлигинин (DoD) билдирүүсүндө Жасалма интеллектти колдонуунун этикалык принциптери жана мен тереңирээк карадым бул жерде шилтеме, булар алардын алты негизги AI этика принциптери:

• Жооптуу: DoD кызматкерлери AI мүмкүнчүлүктөрүн иштеп чыгуу, жайылтуу жана колдонуу үчүн жоопкерчиликтүү бойдон калууда, тиешелүү деңгээлде ой жүгүртүү жана кам көрүшөт.
• Адилеттүү: Бөлүм AI мүмкүнчүлүктөрүндө күтүлбөгөн терс көрүнүштөрдү азайтуу үчүн атайылап чараларды көрөт.
• Изделүүчү: Бөлүмдүн AI мүмкүнчүлүктөрү тиешелүү персонал AI мүмкүнчүлүктөрүнө колдонулуучу технологияларды, иштеп чыгуу процесстерин жана оперативдүү ыкмаларын, анын ичинде ачык-айкын жана аудитордук методологияларды, маалымат булактарын, долбоорлоо процедурасын жана документтерин тийиштүү түшүнүүгө ээ болушу үчүн иштелип чыгат жана жайылтылат.
• ишенимдүү: Бөлүмдүн AI мүмкүнчүлүктөрү ачык, так аныкталган колдонууга ээ болот жана мындай мүмкүнчүлүктөрдүн коопсуздугу, коопсуздугу жана натыйжалуулугу алардын бүткүл жашоо циклдеринде аныкталган колдонуунун алкагында сыноодон жана кепилдиктен өтүүгө тийиш.
• Башкарылуучу: Бөлүм күтүлбөгөн кесепеттерди аныктоо жана болтурбоо, ошондой эле күтүлбөгөн жүрүм-турумду көрсөткөн орнотулган системаларды өчүрүү же өчүрүү жөндөмдүүлүгүнө ээ болуу менен, өз милдеттерин аткаруу үчүн AI мүмкүнчүлүктөрүн иштеп чыгат жана инженериялайт.

Мен ошондой эле AI этикасынын принциптеринин ар кандай жамааттык анализдерин талкууладым, анын ичинде көптөгөн улуттук жана эл аралык AI этикасынын жоболорунун маңызын изилдеген жана конденсациялаган изилдөөчүлөр тарабынан иштелип чыккан комплексти камтыган “The Global Landscape of AI Ethics Guidelines” (жарыяланган. ичинде жаратылыш), жана менин камтуум изилдейт бул жерде шилтеме, бул негизги таш тизмесине алып келди:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Түздөн-түз божомолдогонуңуздай, бул принциптердин негизинде жаткан өзгөчөлүктөрдү аныктоого аракет кылуу абдан кыйын болушу мүмкүн. Андан тышкары, бул кеңири принциптерди AI тутумдарын жасоодо колдонуу үчүн толугу менен сезилерлик жана деталдуу нерсеге айландыруу аракети да катаал жаңгак болуп саналат. AI этикасынын осуяттары эмне экендиги жана аларды жалпысынан кантип сактоо керектиги жөнүндө жалпысынан бир аз кол булгалоо оңой, ал эми AI коддоосунда бул жолго жооп берген чыныгы резина болушу керек болгон бир топ татаал жагдай.

AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, акырында AI тутумдарын иштеткен жана тейлеген адамдар колдонушу керек. AIны иштеп чыгуунун жана колдонуунун бүткүл жашоо циклиндеги бардык кызыкдар тараптар Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлор гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманышат. Жогоруда айтылгандай, AI ойлоп табуу жана жайылтуу үчүн айыл керек, ал үчүн бүт айыл AI этикасынын эрежелерин билиши керек.

Келгиле, бүгүнкү AIнын табияты жөнүндө бир бетте экенибизди текшерип көрөлү.

Бүгүнкү күндө сезимтал AI жок. Бизде бул жок. Сезимдүү AI мүмкүн болорун билбейбиз. Эч ким так айта албайт, биз сезгич АИге жетебизби, же сезгич AI кандайдыр бир кереметтүү түрдө өзүнөн-өзү пайда болоорун айта албайт (көбүнчө сингулярлык деп аталат, менин камтууумду караңыз). бул жерде шилтеме).

Мен басым жасап жаткан AI түрү бүгүнкү күндө бизде бар сезилбеген AIдан турат. Эгерде биз жапайы ой жугуртууну кааласак сезимтал AI, бул талкуу түп-тамырынан бери башка багытта кетиши мүмкүн. Сезимдүү AI адамдык сапатка ээ болмок. Сиз сезүүчү AI адамдын когнитивдик эквиваленти экенин эске алышыңыз керек. Андан тышкары, кээ бирөөлөр бизде супер интеллектуалдык AI болушу мүмкүн деп божомолдогондуктан, мындай AI адамдардан акылдуураак болушу мүмкүн (супер-акылдуу AI боюнча менин изилдөөм үчүн, караңыз. камтуу бул жерде).

Келгиле, нерселерди жер бетине түшүрүп, бүгүнкү эсептөөчү сезилбеген AIны карап көрөлү.

Бүгүнкү AI адамдын ой жүгүртүүсү менен бирдей эч кандай модада “ойлоого” жөндөмсүз экенин түшүнүңүз. Alexa же Siri менен баарлашканыңызда, сүйлөшүү мүмкүнчүлүктөрү адамдын мүмкүнчүлүктөрүнө окшош сезилиши мүмкүн, бирок чындыгында ал эсептөөчү жана адамдын таанып-билүү жөндөмү жок. AIнын акыркы доору эсептөө үлгүлөрүн дал келүүнү камсыз кылган Machine Learning (ML) жана Deep Learning (DL) кеңири колдонду. Бул адамга окшош өңүттөгү AI системаларына алып келди. Ошол эле учурда, бүгүнкү күндө жалпы акылга окшош бир дагы AI жок жана адамдын күчтүү ой жүгүртүүсүнүн когнитивдик кереметтери жок.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, сиз бул кайда бара жатканын биле аласыз. Эгерде чечимдерди кабыл алган адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келтирүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. AI тарабынан жасалган моделдөөнүн жалпы акыл-эстин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. ML/DLдеги сырдуу математика азыр жашырылган калпыстыктарды жоюуну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары потенциалдуу көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келген моделдердин ичинде калпыстыктар сакталат деген чоң мүмкүнчүлүк бар.

Сиз кандайдыр бир атактуу же атагы чыккан таштандыны таштандыдан чыгаруу деген макалды колдонсоңуз болот. Эң негизгиси, бул AIнын ичине кирип кеткен көзкараштар катары тымызын түрдө пайда болгон бир тараптуулукка көбүрөөк окшош. AIнын алгоритмдик чечимдерди кабыл алуу (ADM) аксиоматикалык түрдө теңсиздикке толгон.

жакшы эмес.

Келгиле, орунсуз же туура эмес максаттарда колдонулган AI тутумдарына жана анын CCP лоялдуулугу боюнча жакында жарыяланган изилдөөгө кандай тиешеси бар экенине кайрылып көрөлү.

Эки негизги ой келет:

1) Бул AI инстанциясы AI колдонуунун үрөй учурган ири схемасынын бир бөлүгү болуп саналат, демек, эмне болуп жатканы үчүн коркунучтуу жана көздү ачат.

2) Мышыкты баштыктан чыгарууга болот, эгерде мындай AI бир өлкөдө кабыл алынса, ал башка өлкөлөргө да жайылып кетиши мүмкүн

Бул AI инсаны үзгүлтүксүз үлгүнүн бир бөлүгү болгон биринчи пункттан баштаңыз.

Бул белгилүү бир изилдөөнүн өзгөчө тынчсыздануусунун бир маанилүү негизи, бул AI айрымдар тарабынан кандайча колдонулууну көздөп жаткандыгынын кеңири үлгүсүнүн бир бөлүгү болуп саналат. Эгерде бул жалгыз изилдөө болсо, анда биз бир аз эле толкунданып калышыбыз мүмкүн. Ошого карабастан, ал, балким, биз азыр көрүп тургандай жалындуу резонанстуу эмес.

Бул, балким, колунан чыга турган бир нерсеге карай бир дюймдун тамчылатуусу.

Кабарда айтылгандай, Кытай ККПга эффузиялык берилгендикти талап кылганы менен белгилүү. Андан тышкары, адамдарды өкмөттүк доктринага сиңирүү үчүн ар кандай каражаттар түзүлгөн же түзүлүп жатат. Партия мүчөлөрүнүн ой жүгүртүү шарттарын өлчөй турган AI алгоритмдерин иштеп чыгууга умтулган мурунку изилдөөлөрдүн мисалдары келтирилген (Кытай колдогон Окуу убакыттары 2019-жылы бул аракеттерди айткан).

Эсиңизде болсо керек, 2018-жылы вице-президент Майк Пенс Гудзон институтунда сөз сүйлөп, “Кытайдын башкаруучулары адам жашоосунун дээрлик бардык тармагын көзөмөлдөөгө негизделген Оруэллдик системаны ишке ашырууну көздөйт” деп баса белгилеген (бул ККПнын социалдык кредиттик скоринг системасы, көрүнүктүү талаш-тартыш темасы). Бул жакында CCP изилдөө бул багыттагы дагы бир кадам болуп саналат деп айта алат.

Качан же акыркы тамчы төөнүн белин сындырарын билбейбиз, андыктан бул бир жолку изилдөөлөр AI негизинде кеңири таралган мониторинг системаларына айланган.

Көңүл бурууга татыктуу болгон экинчи жагдай, AIнын бул түрү Кытай менен гана чектелет деп ойлой албайбыз. Чындыгында, Кытайда AI колдонуунун бул түрү кеңири таралышы өзүнөн өзү эле тынчсыздандырат, бирок башка өлкөлөр да ошондой кылышы мүмкүн.

Бул үчүн AI прайм-таймга даяр деп айтылгандан кийин, башка өлкөлөр да аны ишке ашырууну чечиши үчүн көп талап кылынбайт. Мышык баштыктан чыгат. Кээ бир өлкөлөр, кыязы, бул AI ачыктан-ачык эзүүчү жолдор менен колдонушат жана бул жөнүндө эч кандай шылтоо кылууга аракет кылышпайт. Башка өлкөлөр AIнын бул түрүн пайдалуу максаттарда колдонууга аракет кылышы мүмкүн, мунун акырында сөзсүз түрдө терс жагы бар.

Чындыгында, AIнын бул түрү, балким, ал прайм-таймга даяр болуп көрүнгөндөн кийин гана кабыл алынат деп айтуу бир аз жаңылыштык. AI ушундай жол менен ишенимдүү иштей алабы же жокпу, эч кандай айырмачылык болбошу мүмкүн. AI капкак окуя катары колдонулушу мүмкүн, менин түшүндүрмөнү караңыз бул жерде шилтеме. AI чындыгында эмне кыла аларына карабастан, AI калктын мониторингин жана бийликтерге абсолюттук берилгендикти өлчөө жана камсыз кылуу схемаларын чыгаруу үчүн ыңгайлуу шылтоо болушу мүмкүн деген түшүнүк.

Бул олуттуу талкуунун дал ушул маалында, сиз бул теманы чагылдыра турган айрым иллюстративдик мисалдарды каалайсыз деп ишенем. Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү аймактардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизделген чыныгы өзүн-өзү айдай турган унаалардын пайда болушу AI туура эмес пайдалануу жөнүндө бир нерсени жарыктандырабы, эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Тактап айтканда, чыныгы өзүн-өзү башкарган унаалар AI унааны толугу менен өз алдынча айдаган унаалар болуп саналат жана айдоо тапшырмасы учурунда эч кандай адам жардамы жок.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлде чыныгы өзүн-өзү башкара турган унаа азырынча жок жана биз буга жетүү мүмкүнбү же жокпу, же ал жакка жетүү үчүн канча убакыт талап кылынарын азырынча билбейбиз.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзүн башкарган унаалар жана AI туура эмес колдонуу

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Бул мен айтып жаткан нерсенин негизинде жетиштүү эскертүүлөрдү берет деп үмүттөнөм.

Келгиле, жасалма же туура эмес жолдор менен AI колдонушу мүмкүн болгон өзүн-өзү айдаган унаанын сценарийин карап көрөлү.

Мен сиз менен AI негизиндеги өзүн-өзү айдай турган унаалардын айрым түрлөрүн бөлүшкүм келет, алар сизди калтырап, тынчсыздандырышы мүмкүн. Бул азыр дээрлик эч ким талкуулабаган жактары. Мен бул маселени бир нече жолу көтөрүп чыктым, бирок бизде өзүн өзү башкарган унаалар кеңири жайылмайынча, биз коомду бүгүнкү абстракттуу түшүнүктөр катары тынчсыздандырганы же капа кылганы үчүн көп деле көңүл бура албайбыз. .

Даярсыңбы?

Биз пайдубалын түптөө менен баштайбыз.

AI негизиндеги өзүн-өзү башкара турган унаалар видеокамералар менен жабдылат. Бул өзүн-өзү башкарган унаага айдоо көрүнүшүнүн видео сүрөттөрүн алууга мүмкүндүк берет. Өз кезегинде, өзүн-өзү башкара турган унаадагы компьютерлердин бортунда иштеп жаткан AI айдоо системасы чогултулган видеону эсептик түрдө текшерип, жол кайда, жакын жердеги унаалар, жөө жүргүнчүлөр жана башкаларды аныктоого багытталган. Мен өзүм башкара турган унаалардын 101 негиздерин айтып жатканымды түшүнөм.

Автономдуу унаанын сыртында видеокамералар орнотулган жана алар сыртты көрсөтүп турат. Мындан тышкары, жалпысынан алганда, сиз унаанын ичинде же өзүн өзү башкарган унаанын ичин көздөй багытталган видеокамералар болот деп күтсөңүз болот. Эмне үчүн андай? Жөнөкөй, анткени автономдуу унаанын ичиндеги окуяларды видеого тартуу үчүн көптөгөн маанилүү колдонуулар болот.

Өзүн-өзү башкара турган машинеде сейилдөө үчүн барганда, айдоочунун кереги жок. Өзүң башкара турган унаанын ичинде эмне кыласың?

Үйдө же кеңседе башкалар менен баарлашуу сиз кыла турган нерсе. Мына, сиз жумушка бара жатасыз, бул өзүн өзү башкарган унаа менен бир саат айдоо убактысын талап кылат жана сиз Zoom сыяктуу онлайн реалдуу убакыт интерактивдүү сессиясын өткөрүү менен жумуш күнүңүздү баштасаңыз болот. Камералар өзүн-өзү башкарган унаанын ичине карагандыктан, алар сизди көрө алышат. Аларды, балким, өзүн-өзү башкарган унаанын ичиндеги LED экранынан көрө аласыз. Күнүңүздүн аягында, үйгө кайтып бара жатып, балдарыңыз кечинде үй тапшырмасын аткарып баштаганда, алар менен ушундай интерактивдүү видео талкуу өткөрсөңүз болот.

Дагы бир колдонуу сабактарды алуу үчүн болмок. Эми сиз убакытты текке кетирүүнүн кажети жок болгондуктан, сиз өзүн өзү башкарган унаанын ичиндеги өлүк убакытты өз жөндөмүңүздү өркүндөтүүгө же сертификат же диплом алууга айландырсаңыз болот. Ичке караган камералар аркылуу инструкторуңуз сизди көрүп, машыгууңуз кандай өтүп жатканын талкуулай алат.

Дагы бир колдонуу - өзүн-өзү башкарган унаалардын айдоочулары адашып кетпешине аракет кылуу. Адам башкарган унаада айдоочу чоң кишилердин катышуусунда болот, ал адатта чабандестерди интерьерди граффити менен белгилөө сыяктуу акылга сыйбаган нерселерди жасоодон сактайт. AI негизделген өзүн-өзү айдаган унаалар менен эмне болот? Айрымдар айдоочулар унаалардын ичин тытууну чечет деп кооптонушат. Мунун алдын алуу үчүн, өзүн-өзү башкарган унааларды жайгаштырган рейдшеринг фирмасы, адамдардын автономдуу унаанын ичинде эмне кылып жатканын көзөмөлдөө үчүн ичине караган видеокамераларды колдонушу мүмкүн.

Айдоо көрүнүшүн баамдоо үчүн сыртты караган камералардан тышкары, өзүн-өзү башкарган унаалардын ичин көрсөткөн видеокамераларыбыз бар экенине сиз ишенесиз деп ойлойм.

Сиз азыр мен сүзүүчү көз деп атаган нерсеге даярсыз, менин анализимди караңыз бул жерде шилтеме.

Биринчиден, сыртты караган видеокамераларды карап көрөлү.

Автоунаа кайда барбасын, ал камералар көргөн нерсени видеого тартып алат. Кимдир-бирөөнү үйүнөн көтөрүп, азык-түлүк дүкөнүнө алып бара турган өзүн-өзү башкарган унаа бир районду аралап өтөт жана видео жолдун жээгин эле эмес, көздүн алдында болуп жаткан нерселердин баарын жазып алат. Алардын короосунда ойноп жаткан ата менен бала. Алардын алдыңкы кире беришинде отурган үй-бүлө. Жана аны андан ары.

Азыр бизде коомдук жолдордо өзүн-өзү башкарган унаалар ушунчалык аз болгондуктан, күнүмдүк аракеттерди видеого тартуу мүмкүнчүлүгү салыштырмалуу аз жана маанилүү эмес.

Биз акырында коопсуз жана кеңири таралган өзүн-өзү башкаруучу унааларга жетишебиз деп ойлойлу. Алардын миңдегени. Балким миллиондогон. Бүгүнкү күндө АКШда 250 миллионго жакын адам башкарган унаалар бар. Акыр-аягы, алар өзүн-өзү башкарган машиналар менен алмаштырылат же жөн эле колдонулбай калат, бизде негизинен автожолдордо өзүн-өзү башкарган унаалар болот. Бул өзүн-өзү айдаган унаалар AI тарабынан башкарылат жана 24 × 7 роумингде болушу мүмкүн. Эс алуу тыныгуусу жок, ванна тыныгуусу жок.

Видео маалыматтар OTA (Over-The-Air) электрондук тармак туташуусу аркылуу бул өзүн-өзү айдаган унаалардан жүктөлүшү мүмкүн. Автоунааларга жүктөлүп алынган акыркы AI программалык жаңыртууларын алуу үчүн OTA колдонушат. Мындан тышкары, OTA булут негизиндеги маалымат базасына өзүн-өзү айдаган унаадан маалыматтарды жүктөө үчүн колдонулушу мүмкүн.

Баары эле, бул жүктөлгөн маалыматтарды бириктирүү мүмкүн болмок. Тигүү менен сиз өзүн-өзү башкарган унааларды кеңири колдонгон каалаган жерде каалаган күнү сыртка чыккандардын күнүмдүк келип-кеткенин бириктире аласыз.

Бул мен эскертип келе жаткан көзүм.

Эми биз CCP изилдөөсүн ушул түрдөгү жөндөмдүүлүккө бура алабыз. Бул чогултулган видео маалыматтардын баарына өкмөттүн мүмкүнчүлүгү бар дейли. Андан кийин алар AI негизиндеги бетти таануу алгоритмин колдонуп, сиздин каякка, кайсы убакта, күнүмдүк жашооңузга барганыңызды аныктай алышат. Кошумчалай кетсек, алар сиздин жүзүңүздө лоялдуу көрүнгөнүңүздү же жокпу, билүү үчүн алардын "лоялдуулук" AI-негизделген анализаторун колдонушу мүмкүн.

Элестетиңиз, шейшемби күнү түштөн кийин сиз жергиликтүү тамактануучу жайдан бутерброд жегени бара жаткансыз. Жолдун боюнда өзү башкарган унаалар өтүп бара жаткан. Көптөгөн видеолордун баары сизди тамактануу үчүн беш мүнөттүк басып жүргөнүңүздө тартып алды. Маалыматтар борборлоштурулган маалымат базасына жүктөлгөн. Өкмөт маалыматтар боюнча AI жүзүн таануу программасын ишке ашырды.

Көрсө, AI сиздин жүзүңүздө ишенимсиз көрүнүш бар экенин "чечкен".

Балким, бул ишенимсиз көрүнүш бир заматта гана болгондур. Сиз көчөдөн кечки тамактануучу жайга өтүү үчүн жарыктын өзгөрүшүн көчөнүн бурчунда күтүп тургансыз. Ошол маалда сизде бир аз жийиркенүү сезими пайда болуп, Жөө жүрүү символун өтө көп күтүүгө туура келди. Бул сиздин бийликке болгон ишенимсиздигиңиздин көрсөткүчү болдубу?

Ооба, AI эсептөө жолу менен эсептелген, сиз ошол замат абдан ишенимсиз болдуңуз. Ошол түнү үйгө келгенден кийин, өкмөт сени камакка алууну уюштурду.

Бирок күтө тур, дагы көп нерсе бар.

Эсиңизде болсун, видеокамералар да ичкери карайт.

Ошол эле шейшембиде, сиз өзүн өзү башкарган унаа менен жумушка баратканда, видеокамералар сиздин ар бир көз ирмемиңизди тартып алышкан. Бул борборлоштурулган маалымат базасына жүктөлгөн. Жүздүн үлгүлөрүн ишенимсиздикке талдоочу AI программасы кеңсеге барганда мимикаңызды эсептөө үлгүсүн текшерип чыкты.

Бир убакта сиз автономдуу унаанын сыртын карап жатып, жолду жарым-жартылай жаап, AI айдоо системасы өзүн-өзү башкарган унааны жайлаткан курулуш жумушчусун байкадыңыз. Бир секунда ичинде жол кыймылын басаңдатып жаткан бул курулушчуга сиздин жүзүңүз шылдыңдады.

AI бет үлгүсүн талдоо муну өкмөткө ишенимсиздиктин белгиси катары чечмеледи.

Бир күндө сизге эки сокку.

Сиз жука музда жашап жатасыз.

Албетте, AI "туура" же "туура эмес" экени, бул контекстте сиздин берилгендигиңизди аныктай ала тургандыгы дээрлик маанилүү эмес. Негизгиси, бул максат үчүн AI орнотулган. AI орнотуп жаткан адамдар AI ушул типтеги тапшырмалар үчүн ылайыктуу экенине маани бериши мүмкүн же жокпу. AI технологиялык жарактуулугуна карабастан, мамлекеттик башкарууга мүмкүндүк берет.

Бул бет сканерин камтыйт.

Эгер бизде мээ толкундарын сканерлөө үчүн (болжолдуу) кандайдыр бир портативдик үнөмдүү түзүлүштөр болсо, анда бул, албетте, өзүн-өзү башкарган унааларга да киргизилиши мүмкүн. Видеокамералар азыр ишенимдүү нерсе. Бул калибрдеги мээ толкундарын сканерлөө мүмкүнчүлүгү азыр карталарда жок, бирок келечекте болжолдонуп жаткан нерсе.

Өкмөт өзүн-өзү башкаруучу унааларды башкаруу аркылуу калкты кантип басып алууга аракет кылышы мүмкүн экенин изилдөө үчүн, караңыз бул жерде шилтеме. Ушундай эле ыктымалдык, кара ниет актер да ушундай кылууга аракет кылышы мүмкүн, караңыз бул жерде шилтеме. Булар ошол байланышкан темаларды чагылдыруу үчүн коркутуу тактикасы эмес, анын ордуна киберкоопсуздуктун маанилүүлүгү жана коом катары биз бардык жерде өзүн-өзү башкара турган унаалардын пайда болушуна байланыштуу көрүүгө аракет кылышыбыз керек. башка автономдуу унаалар.

жыйынтыктоо

Мен AIнын берилгендикти аныктоо үчүн колдонулуп жаткан дагы бир аспектисин тез арада ачып бергим келет, бул бир аз өзүнчө тема, бирок кээ бир твиттер жана социалдык медиалар талкуулап жаткан тема.

Мен жогоруда айтканмын, бизде акылдуу AI жок жана биз качан же качан болорун билбейбиз. Келгиле, бизде акылдуу AI болот деген ойду ишке ашыралы. Андай учурда төмөнкү сценарийди карап көрөлү.

Биз акыл-эстүү эмес AI аркылуу AIны кеңири колдонууну тандайбыз, ал адамдар өз өкмөтүнө берилгендигин эсептеп, бетти сканерлөө, мээ толкундарын сканерлөө жана башка ушул сыяктууларды аныктайт. Бул толугу менен бийликтеги адамдар тарабынан башкарылат жана колдонулат. Бул мен бир аз мурун сүрөттөп жаткан тынчсыздандырган сценарий.

Антени көтөрүүгө убакыт келди.

AI сезимтал болуп калат. Биз азыр бул сезгич AIга адамдардагы берилгендикти жана ишенимсиздикти аныктоонун кеңири жайылган мүмкүнчүлүгүн бердик. Адамдарды жок кылууну көздөгөн кара ниет AI бул мүмкүнчүлүктү адамдар чындап эле ишенимсиз болуп, толугу менен жок кылынышы керек деп чечиш үчүн колдонушу мүмкүн. Же, балким, жүзүнөн же ойлору менен ишенимсиздиктин белгисин көрсөткөн адамдар өзгөчө жок кылынышы керек.

Дагы бир бурч - AI адамдарды кул кылууну каалайт, менин талкууну караңыз бул жерде шилтеме.

Биз AIга ошол тапшырманы аткаруу үчүн эң сонун белек берген окшойбуз. Биз орнотуп жаткан инфраструктура AIга адамдарды кылдаттык менен көзөмөлдөөгө мүмкүндүк берет. Жүзүнүн ишенимсиздигин көрсөткөн же AI кожоюну(лар) жөнүндө ойлогондор AIнын каарына калышат.

Бул антени көтөрүү деп айтканымды түшүндүм. Мен андай экенине ишенбейм. Менин оюмча, биздин тагдырыбызды түздөн-түз чечкен AI үстөмдүктөрү барбы же жокпу, алар берилгендикти аныктоо үчүн AI тутумун колдонушат.

Азырынча акыркы комментарий.

Рим окумуштуусу жана философу Марк Туллиус Цицерон берилгендиктен өткөн асыл, урматтуу эч нерсе жок деп айткан. Биз AI бизден алдыга чыгып, коркунучтуу жолдор менен "лоялдуулукту" камсыз кылуучу курал болуп калышы мүмкүн.

AI этикасын аткарыла турган иштер тизмегибиздин башына коюу үчүн акылга сыярлык негиз.