AI этикасынын таң калтырган ачылышы AIны уулуу же бир тараптуу болууга үйрөтүү пайдалуу болушу мүмкүн, анын ичинде ошол автономдуу өзүн-өзү айдаган унаалар үчүн

Бул жерде сиз мурда укканыңызга ишенем, эски сап.

Бирөөнү билүү үчүн бирөө керек.

Бул 1900-жылдардын башында байкала турган жана адатта күнөөкөрлөргө карата айтылган сөз айкашы экенин түшүнбөшүңүз мүмкүн (катышуучу фразанын башка варианттары, мисалы, 1600-жылдардагыдай). Бул сөздүн колдонулушуна мисал, эгер сиз ууруну кармагыңыз келсе, анда ууруну колдонушуңуз керек деген түшүнүктү камтыйт. Бул бирөөнү билүү үчүн адам керек деген ырастоону көрсөтөт. Көптөгөн тасмалар жана телешоулор бул акылмандыктын акылмандыгын капитализациялап, көбүнчө шылуунду кармоонун бирден-бир жарактуу жолу күнөөкөрдүн артынан сая түшүү үчүн бирдей коррупционерди жалдоо экенин сүрөттөшөт.

Тестирлөөнү алмаштырып, кээ бирөөлөр ушул эле логиканы колдонушу мүмкүн, кимдир-бирөө ашыкча тенденцияларды жана басмырлоочу ишенимдерди камтыганын аныктоонун ылайыктуу жолу ушундай тенденцияларды камтыган адамды табуу болуп саналат. Кыязы, буга чейин бир беткейлик менен толгон адам бул башка адам да уулуулугуна толуп калганын оңой эле сезе алат. Дагы бир жолу, бул ачык мантра экенин билүү үчүн талап кылынат.

Башка бир жактуу адамды четке кагуу үчүн бир жактуу адамды колдонуу мүмкүнчүлүгүнө сиздин алгачкы реакцияңыз шектенүү жана ишенбөөчүлүк болушу мүмкүн. Биз кимдир бирөөнүн терс көз карашын карманып же жокпу, аларды карап чыгуу менен жана окшош табияттагы башка бирөөнү табууга аргасыз боло албайбызбы? Башкаларды ачуу үчүн бир жактуу адамды табууга атайылап умтулуу таң калыштуу көрүнөт.

Менин оюмча, бул жарым-жартылай сиздин бирөөнү билүү үчүн керек деген болжолдуу карманууну кабыл алууга даяр экендигиңизден көз каранды. Белгилей кетчү нерсе, бул ууруну кармоонун бирден-бир жолу сизден бир гана ууруну колдонууну талап кылат дегенди билдирбейт. Сиз бул жөн гана кошумча жол, ага көңүл бурулса болот деп ырастасаңыз болот. Балким, кээде сиз ууруну кармоо үчүн ууруну колдонуу мүмкүнчүлүгүн ачууга даярсыз, ал эми башка жагдайлар муну түшүнүксүз тактикага айландырышы мүмкүн.

Алар айткандай, туура орнотуу үчүн туура куралды колдонуңуз.

Эми мен ошол негиздерди айтып бергенден кийин, биз бул жомоктун кыжырдантуучу жана кыязы, үрөй учурган бөлүгүнө өтө алабыз.

Даярсыңбы?

AI тармагы ошол эле осуятты жигердүү улантууда, ал кээде бирөөнү билүү үчүн талап кылынат, айрыкча, бир жактуу же басмырлоочу AIны чыгарууга аракет кылган учурда. Ооба, акыл-эсти ийкемдүү идея - биз атайылап толугу менен жана эч тартынбай бир жактуу жана басмырлоочу AI ойлоп табууну кааласак болот, ошону менен ошол эле уулуулугунун окшоштугуна ээ болгон башка AIны ачуу жана ачуу үчүн колдонуу үчүн. Бир аздан кийин көрүп турганыңыздай, бул маселенин негизинде AI этикасынын ар кандай көйгөйлөрү бар. AI этикасы жана этикалык AI жөнүндө жалпы жана кеңири чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Менин оюмча, сиз уулуу AI колдонууну башка уулуу АИден кийин от менен күрөшүү концепциясы катары айта аласыз (биз бул кырдаалды чагылдыруу үчүн көптөгөн эвфемизмдерди жана иллюстративдик метафораларды келтирсек болот). Же, буга чейин баса белгилегендей, биз бирөөнү билүү үчүн бирөөнү талап кылат деген ырастоону карап көрсөк болот.

Негизги концепция – бул AI тутумунда кадимки ыкмаларды колдонуу менен ашыкча бетме-бет бар-жоктугун аныктоого аракет кылбастан, балким, биз дагы азыраак салттуу каражаттарды колдонууга умтулушубуз керек. Мындай адаттан тыш каражаттардын бири - эң жаман көз караштарды жана коом тарабынан кабыл алынгыс уулуу заттарды камтыган AI ойлоп табуу жана андан кийин бул AIны ошол эле жамандыкка ыктаган башка AIларды жолго салууга жардам берүү үчүн колдонуу.

Бул жөнүндө тез ой жүгүрткөндө, бул, албетте, абдан акылга сыярлык көрүнөт. Биз максимумга чейин уулуу AI курууну максат кылсак болот. Бул уулуу AI андан кийин уулуулугу бар башка AIны чыгаруу үчүн колдонулат. Ошол кезде ачылган “жаман” AI үчүн биз аны ууландырууну жоюу, AIдан толугу менен баш тартуу менен күрөшө алабыз (AIнын бузулушу же жок кылынышы жөнүндө менин камтууну караңыз: бул шилтемени бул жерде) же AIны түрмөгө отургузуу (ал AI камагына байланыштуу менин чагылдырууну караңыз бул шилтемени бул жерде), же эмне кылуу керек болсо, ошону кылыңыз.

Карама-каршы аргумент, биз атайылап жана даярдуулук менен уулуу жана бир жактуу ойлор менен толтурулган AI ойлоп таап жатканыбызды текшеришибиз керек. Бул биз ойлонушубуз керек болгон акыркы нерсе, кээ бирлери насаат кылышат. AI толугу менен жакшылыктан турган кылууга көңүл буруңуз. Ашыкча көз караштардын жамандыктары жана калдыктары бар AI ойлоп табууга көңүл бурбаңыз. Мындай умтулуу деген түшүнүктүн өзү айрымдарга жийиркеничтүү көрүнөт.

Бул талаш-тартыштуу изденүү жөнүндө көбүрөөк нааразычылыктар бар.

Балким, уулуу AI ойлоп табуу миссиясы коомду кыйратууга жөндөмдүү AI жасоону каалагандарды кубаттайт. Биз туура эмес жана жагымсыз көз караштары бар AI жасоо эң сонун деп айтып жаткандайбыз. Эч кабатыр болбоңуз, тартынбаңыз. Жүрөгүңүзгө жаккан уулуу AI ойлоп табууга аракет кылыңыз, биз бүткүл дүйнө жүзүндөгү AI куруучуларга катуу кабарлап жатабыз. Мунун баары (көз ирмеп) жакшылыктын атынан.

Андан тышкары, бул уулуу AI түрү кармалып калды дейли. Бул AI башка көптөгөн AI куруучулар тарабынан колдонулуп, кайра колдонулушу мүмкүн. Акыр-аягы, уулуу AI AI тутумдарынын бардык түрлөрүнүн ичинде катылган. Болжол менен мөөр басылган лабораториядан чыгып кеткен адамды кыйратуучу вирусту ойлоп табууга окшоштук жасалышы мүмкүн. Кийинки сиз билесиз, каргыш бардык жерде жана биз өзүбүздү жок кылдык.

Бир аз күтө туруңуз, ошол каршы аргументтерге каршы күрөш жүрүп жатат, сиз ар кандай жинди жана колдоого алынбаган божомолдор менен дүрбөлөңгө түшүп жатасыз. Терең дем ал. Өзүңдү тынчтан.

Биз уулуу болгон AI жасап, аны чектеп коё алабыз. Биз уулуу интеллектуалдык интеллектти табуу жана AIнын өсүп бараткан жайылышын азайтуу үчүн колдоно алабыз. Бул акылга сыйбаган жапайы жана далилденбеген кардуу үндөрлөрдүн баары тизеден ылдый реакциялар жана өкүнүчтүүсү, акылсыздык жана ачыктан-ачык акылсыздык. Баланы ваннанын суусу менен ыргытканга аракет кылбаңыз, алдын ала эскертилет.

Муну ушинтип ойлоп көрүңүз, дешет жактоочулар. Изилдөө, баалоо жана башка коомго коркунучтуу AI ачуу үчүн детектив сыяктуу иш-аракет кылуу максатында уулуу AIди туура куруу жана колдонуу татыктуу мамиле болуп саналат жана анын артынан сая түшүү керек. Катуу реакцияларыңызды четке кагыңыз. Жерге түшүп, муну сергек карагыла. Биздин көзүбүз байгеде, тактап айтканда, бир жактуу негизделген AI тутумдарынын ашкерелүүлүгүн ачып, жоюу жана коом катары биз уулуу AI менен каптап калбашыбыз үчүн.

Мезгил. Толук аялдама.

Пайдалуу максаттар үчүн уулуу же бир тараптуу AI колдонуунун бул түшүнүгүн изилдөөнүн ар кандай негизги жолдору бар, анын ичинде:

• Эмне кылбоо керектиги жана/же эмнени көрүү керектиги боюнча AI үйрөтүү үчүн колдонула турган бир тараптуу жана толугу менен уулуу маалыматтарды камтыган дайындар топтомун орнотуу
• Мындай берилиштер топтомун Machine Learning (ML) жана Deep Learning (DL) моделдерин бир тараптуулуктарды аныктоо жана коомдук ууландырууну талап кылган эсептөө моделдерин аныктоо үчүн үйрөтүү үчүн колдонуңуз
• Максаттуу AI потенциалдуу объективдүү жана уулуу экендигин аныктоо үчүн башка AIга карата уулуулугу боюнча үйрөтүлгөн ML/DLди колдонуңуз
• AI куруучуларга эмнеге көңүл буруу керек экенин көрсөтүү үчүн уулуулугу боюнча үйрөтүлгөн ML/DLди жеткиликтүү кылыңыз, ошондо алар алгоритмдик жактан жабдылган тенденциялар кантип пайда болоорун көрө алышат.
• AI этикасынын жана этикалык AI маалымдуулугунун бир бөлүгү катары уулуу AI коркунучун мисал кылыңыз, мунун бардыгы бул көйгөй-баланын сөөккө чейин начар AI сериясы аркылуу айтылган.
• башка

Ошол бир нече жолдун этине кирүүдөн мурун, келгиле, кээ бир кошумча фундаменталдык маалыматтарды белгилейли.

Бүгүнкү күндө AI тармагындагы, атүгүл AI тармагынын сыртындагы эң катуу үндөрдүн бири этикалык AIнин көбүрөөк окшоштугун талап кылуудан турат деп бүдөмүк билесиз. Келгиле, AI этикасына жана этикалык AIге кайрылуу эмнени билдирерин карап көрөлү. Анын үстүнө, биз Machine Learning жана Deep Learning жөнүндө сөз кылганда эмнени айткым келгенин изилдөө менен этапты орното алабыз.

ЖМКнын көңүлүн бурган AI этикасынын белгилүү бир сегменти же бөлүктөрү терс көз караштарды жана теңсиздикти көрсөткөн AIдан турат. AIнын акыркы доору башталганда, азыр кээ бирөөлөр деп атаган нерсеге энтузиазмдын чоң жарылуу болгонун билесиз. AI For Good. Тилекке каршы, ошол шаркыратма толкундан кийин биз күбө боло баштадык AI For Bad. Мисалы, AI негизиндеги жүздү таануунун ар кандай системалары расалык көз караштарды жана гендердик көз караштарды камтыганы аныкталган, алар жөнүндө мен талкууладым. бул жерде шилтеме.

каршы күрөшүү аракеттери AI For Bad активдүү жүрүп жатат. Кыйкырыктан тышкары укуктук туура эмес иш-аракеттерди ооздуктоого умтулуу, ошондой эле AIнын жамандыгын оңдоо үчүн AI этикасын кабыл алууга олуттуу түрткү бар. Биз AIны өнүктүрүү жана жайылтуу үчүн негизги этикалык AI принциптерин кабыл алып, бекитишибиз керек деген түшүнүк бар. AI For Bad жана ошол эле учурда артыкчылыктууларды жарыялоо жана алдыга жылдыруу AI For Good.

Тиешелүү түшүнүк боюнча, мен AIны AI көйгөйлөрүн чечүүнүн бир бөлүгү катары колдонууга аракет кылып, ушундай ой жүгүртүү менен от менен от менен күрөшүүнүн жактоочусумун. Биз, мисалы, этикалык AI компоненттерин AI тутумуна киргизсек болот, ал AIнын калган бөлүгү кандай иштерди жасап жатканын көзөмөлдөп, реалдуу убакытта дискриминациялоочу аракеттерди байкай алат, менин талкууну караңыз бул жерде шилтеме. Бизде ошондой эле өзүнчө AI системасы болушу мүмкүн, ал AI этикасынын мониторунун бир түрү катары иштейт. AI системасы башка AI этикага жатпаган туңгуюкка баратканда көзөмөлдөө жана аныктоо үчүн көзөмөлчү катары кызмат кылат (мындай мүмкүнчүлүктөр боюнча менин анализимди караңыз: бул жерде шилтеме).

Бир аздан кийин мен сиз менен AI этикасынын негизги принциптерин бөлүшөм. Бул жерде жана бул жерде калкып жаткан көптөгөн тизмелер бар. Сиз азырынча универсалдуу кайрылуунун жана макулдашуунун бирдиктүү тизмеси жок деп айта аласыз. Бул жагымсыз кабар. Жакшы жаңылык, жок эле дегенде, жеткиликтүү AI этикасынын тизмелери бар жана алар абдан окшош. Мунун баары негиздүү конвергенциянын бир түрү аркылуу биз AI этикасынын жалпы жалпылыгына карай жол таап жатканыбызды көрсөтүп турат.

Биринчиден, келгиле, AI жасаган, талаага чыгарган же колдонгон адам үчүн эмне маанилүү экенин көрсөтүү үчүн жалпы этикалык AI осуяттарынын айрымдарын кыскача ачып берели.

Мисалы, Ватикан тарабынан айтылгандай Рим AI этикасына чакырат жана мен тереңирээк карадым бул жерде шилтеме, булар алардын аныкталган алты негизги AI этикасынын принциптери:

• ачыктык: Негизи, AI системалары түшүнүктүү болушу керек
• Кошуу: Ар бир адам пайда көрүшү үчүн жана бардык инсандарга өзүн көрсөтүү жана өнүктүрүү үчүн мүмкүн болгон эң жакшы шарттарды сунуштоо үчүн бардык адамдардын муктаждыктары эске алынышы керек.
• жоопкерчилиги: AI колдонууну иштеп чыккан жана жайылткандар жоопкерчилик жана айкындуулук менен жүрүшү керек
• Калыс: Адилеттүүлүктү жана адамдык ар-намысты коргоп, бир жактуулукту жаратпаңыз же аракет кылбаңыз
• ишенимдүүлүк: AI системалары ишенимдүү иштей алышы керек
• Коопсуздук жана купуялык: AI системалары коопсуз иштеши керек жана колдонуучулардын купуялыгын сыйлашы керек.

АКШнын Коргоо министрлигинин (DoD) билдирүүсүндө Жасалма интеллектти колдонуунун этикалык принциптери жана мен тереңирээк карадым бул жерде шилтеме, булар алардын алты негизги AI этика принциптери:

• Жооптуу: DoD кызматкерлери AI мүмкүнчүлүктөрүн иштеп чыгуу, жайылтуу жана колдонуу үчүн жоопкерчиликтүү бойдон калууда, тиешелүү деңгээлде ой жүгүртүү жана кам көрүшөт.
• Адилеттүү: Бөлүм AI мүмкүнчүлүктөрүндө күтүлбөгөн терс көрүнүштөрдү азайтуу үчүн атайылап чараларды көрөт.
• Изделүүчү: Бөлүмдүн AI мүмкүнчүлүктөрү тиешелүү персонал AI мүмкүнчүлүктөрүнө колдонулуучу технологияларды, иштеп чыгуу процесстерин жана оперативдүү ыкмаларын, анын ичинде ачык-айкын жана аудитордук методологияларды, маалымат булактарын, долбоорлоо процедурасын жана документтерин тийиштүү түшүнүүгө ээ болушу үчүн иштелип чыгат жана жайылтылат.
• ишенимдүү: Бөлүмдүн AI мүмкүнчүлүктөрү ачык, так аныкталган колдонууга ээ болот жана мындай мүмкүнчүлүктөрдүн коопсуздугу, коопсуздугу жана натыйжалуулугу алардын бүткүл жашоо циклдеринде аныкталган колдонуунун алкагында сыноодон жана кепилдиктен өтүүгө тийиш.
• Башкарылуучу: Бөлүм күтүлбөгөн кесепеттерди аныктоо жана болтурбоо, ошондой эле күтүлбөгөн жүрүм-турумду көрсөткөн орнотулган системаларды өчүрүү же өчүрүү жөндөмдүүлүгүнө ээ болуу менен, өз милдеттерин аткаруу үчүн AI мүмкүнчүлүктөрүн иштеп чыгат жана инженериялайт.

Мен ошондой эле AI этикасынын принциптеринин ар кандай жамааттык анализдерин талкууладым, анын ичинде көптөгөн улуттук жана эл аралык AI этикасынын жоболорунун маңызын изилдеген жана конденсациялаган изилдөөчүлөр тарабынан иштелип чыккан комплексти камтыган “The Global Landscape of AI Ethics Guidelines” (жарыяланган. ичинде жаратылыш), жана менин камтуум изилдейт бул жерде шилтеме, бул негизги таш тизмесине алып келди:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Түздөн-түз божомолдогонуңуздай, бул принциптердин негизинде жаткан өзгөчөлүктөрдү аныктоого аракет кылуу абдан кыйын болушу мүмкүн. Андан тышкары, бул кеңири принциптерди AI тутумдарын жасоодо колдонуу үчүн толугу менен сезилерлик жана деталдуу нерсеге айландыруу аракети да катаал жаңгак болуп саналат. AI этикасынын осуяттары эмне экендиги жана аларды жалпысынан кантип сактоо керектиги жөнүндө жалпысынан бир аз кол булгалоо оңой, ал эми AI коддоосунда бул жолго жооп берген чыныгы резина болушу керек болгон бир топ татаал жагдай.

AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, акырында AI тутумдарын иштеткен жана тейлеген адамдар колдонушу керек. AIны иштеп чыгуунун жана колдонуунун бүткүл жашоо циклиндеги бардык кызыкдар тараптар Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлор гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманышат. Жогоруда айтылгандай, AI ойлоп табуу жана жайылтуу үчүн айыл керек, ал үчүн бүт айыл AI этикасынын эрежелерин билиши керек.

Келгиле, бүгүнкү AIнын табияты жөнүндө бир бетте экенибизди текшерип көрөлү.

Бүгүнкү күндө сезимтал AI жок. Бизде бул жок. Сезимдүү AI мүмкүн болорун билбейбиз. Эч ким так айта албайт, биз сезгич АИге жетебизби, же сезгич AI кандайдыр бир кереметтүү түрдө өзүнөн-өзү пайда болоорун айта албайт (көбүнчө сингулярлык деп аталат, менин камтууумду караңыз). бул жерде шилтеме).

Мен басым жасап жаткан AI түрү бүгүнкү күндө бизде бар сезилбеген AIдан турат. Эгерде биз жапайы ой жугуртууну кааласак сезимтал AI, бул талкуу түп-тамырынан бери башка багытта кетиши мүмкүн. Сезимдүү AI адамдык сапатка ээ болмок. Сиз сезүүчү AI адамдын когнитивдик эквиваленти экенин эске алышыңыз керек. Андан тышкары, кээ бирөөлөр бизде супер интеллектуалдык AI болушу мүмкүн деп божомолдогондуктан, мындай AI адамдардан акылдуураак болушу мүмкүн (супер-акылдуу AI боюнча менин изилдөөм үчүн, караңыз. камтуу бул жерде).

Келгиле, нерселерди жер бетине түшүрүп, бүгүнкү эсептөөчү сезилбеген AIны карап көрөлү.

Бүгүнкү AI адамдын ой жүгүртүүсү менен бирдей эч кандай модада “ойлоого” жөндөмсүз экенин түшүнүңүз. Alexa же Siri менен баарлашканыңызда, сүйлөшүү мүмкүнчүлүктөрү адамдын мүмкүнчүлүктөрүнө окшош сезилиши мүмкүн, бирок чындыгында ал эсептөөчү жана адамдын таанып-билүү жөндөмү жок. AIнын акыркы доору эсептөө үлгүлөрүн дал келүүнү камсыз кылган Machine Learning (ML) жана Deep Learning (DL) кеңири колдонду. Бул адамга окшош өңүттөгү AI системаларына алып келди. Ошол эле учурда, бүгүнкү күндө жалпы акылга окшош бир дагы AI жок жана адамдын күчтүү ой жүгүртүүсүнүн когнитивдик кереметтери жок.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, сиз бул кайда бара жатканын биле аласыз. Эгерде чечимдерди кабыл алган адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келтирүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. AI тарабынан жасалган моделдөөнүн жалпы акыл-эстин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. ML/DLдеги сырдуу математика азыр жашырылган калпыстыктарды жоюуну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары потенциалдуу көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келген моделдердин ичинде калпыстыктар сакталат деген чоң мүмкүнчүлүк бар.

Сиз кандайдыр бир атактуу же атагы чыккан таштандыны таштандыдан чыгаруу деген макалды колдонсоңуз болот. Эң негизгиси, бул AIнын ичине кирип кеткен көзкараштар катары тымызын түрдө пайда болгон бир тараптуулукка көбүрөөк окшош. AIнын алгоритмдик чечимдерди кабыл алуу (ADM) аксиоматикалык түрдө теңсиздикке толгон.

жакшы эмес.

Мунун бардыгын дагы эмне кылса болот?

Келгиле, бир аз адаттан тышкаркы “бирөөнү билүү керек” ыкмасын колдонуу менен AI бир жактуулугун же уулуу AI менен кантип күрөшүүгө боло тургандыгы тууралуу мурда берилген тизмеге кайрылып көрөлү. Эске салсак, тизме бул маанилүү пункттардан турган:

• Эмне кылбоо керектиги жана/же эмнени көрүү керектиги боюнча AI үйрөтүү үчүн колдонула турган бир тараптуу жана толугу менен уулуу маалыматтарды камтыган дайындар топтомун орнотуу
• Мындай берилиштер топтомун Machine Learning (ML) жана Deep Learning (DL) моделдерин бир тараптуулуктарды аныктоо жана коомдук ууландырууну талап кылган эсептөө моделдерин аныктоо үчүн үйрөтүү үчүн колдонуңуз
• Максаттуу AI потенциалдуу объективдүү жана уулуу экендигин аныктоо үчүн башка AIга карата уулуулугу боюнча үйрөтүлгөн ML/DLди колдонуңуз
• AI куруучуларга эмнеге көңүл буруу керек экенин көрсөтүү үчүн уулуулугу боюнча үйрөтүлгөн ML/DLди жеткиликтүү кылыңыз, ошондо алар алгоритмдик жактан жабдылган тенденциялар кантип пайда болоорун көрө алышат.
• AI этикасы жана этикалык AI маалымдуулугунун бир бөлүгү катары уулуу AI коркунучун мисал кылыңыз, мунун бардыгы AI үлгүлөрүнүн бул көйгөйү-баланын сөөккө чейин начар сериясы аркылуу айтылат.
• башка

Биз ошол маанилүү пункттардын биринчисин жакындан карап чыгабыз.

Токсикалык маалыматтардын маалымат топтомун орнотуу

Жагымсыз коомдук көз караштарды камтыган берилиштер топтомун түзүүгө аракет кылуунун кыраакы мисалы - WILDS куратордук жыйнагынын CivilComments маалымат топтому.

Биринчиден, кээ бир тез фон.

WILDS – бул ML/DLди үйрөтүү үчүн колдонула турган маалымат топтомдорунун ачык булагы. WILDSтин негизги максаты - бул AI иштеп чыгуучуларына маалыматка даяр кирүү мүмкүнчүлүгүн берет бөлүштүрүү жылыштар ар кандай конкреттүү домендерде. Учурда жеткиликтүү болгон домендердин айрымдары жаныбарлардын түрлөрү, тирүү ткандардагы шишиктер, буудайдын башынын тыгыздыгы жана башка домендерди камтыйт, мисалы, мен бир азга сүрөттөп бере турган CivilComments.

Бөлүштүрүү нөөмөттөрү менен күрөшүү AI ML/DL системаларын туура иштеп чыгуунун маанилүү бөлүгү болуп саналат. Мына келишим. Кээде машыгуу үчүн колдонгон маалыматтар тестирлөөдөн же "жапайы" маалыматтардан такыр башкача болуп чыгат, демек, сиздин болжолдуу үйрөтүлгөн ML/DL чыныгы дүйнө кандай болоорун түшүнбөйт. Astute AI куруучулар мындай бөлүштүрүү жылыштар менен күрөшүү үчүн өздөрүнүн ML/DL үйрөтүшү керек. Бул алдын ала жасалышы керек жана кандайдыр бир сюрприз болбошу керек, бул кийинчерээк ML/DLди жаңылоону талап кылат.

WILDSти киргизген кагазда түшүндүрүлгөндөй: "Бөлүштүрүү нөөмөттөрү - окутуунун бөлүштүрүлүшү тесттик бөлүштүрүүдөн айырмаланып турган жерде - жапайы жаратылышта орнотулган машина үйрөнүү (ML) системаларынын тактыгын олуттуу төмөндөтүшү мүмкүн. Чыныгы дүйнөдөгү жайылтууларда алардын бардыгына карабастан, бул бөлүштүрүү жылыштар бүгүнкү күндө ML коомчулугунда кеңири колдонулган маалымат топтомдорунда аз көрсөтүлөт. Бул боштукту жоюу үчүн биз WILDSти сунуштайбыз, 10 маалымат топтомунан турган куратордук эталон, алар табигый тиркемелерде табигый түрдө пайда болгон бөлүштүрүү жылыштарынын ар кандай спектрин чагылдырат, мисалы, шишик аныктоо үчүн ооруканалар боюнча жылыштар; жапайы жаратылышты көзөмөлдөө үчүн камера капкандары аркылуу; жана спутниктен сүрөткө тартууда жана жакырчылыктын картасын түзүүдө убакыт жана локация боюнча” (Панг Вей Кох, Шиори Сагава, Хенрик Марклунд, Санг Си, Марвин Чжан, Эшай Балсубрамани тарабынан “WILDS: A Benchmark of the Wild Distribution Shifts” деген макалада , Вейхуа Ху жана башкалар).

Мындай WILDS берилиштер топтомдорунун саны көбөйүүдө жана ML/DL тренинги үчүн маалыматтарды колдонуунун маанисин жогорулатуу үчүн жалпысынан маалымат топтомдорунун мүнөзү жакшыртылып жатат.

CivilComments маалымат топтому мындайча сүрөттөлөт: "Колдонуучу тарабынан түзүлгөн текстти автоматтык түрдө карап чыгуу, мисалы, уулуу комментарийлерди аныктоо - Интернетте жазылган тексттин чоң көлөмүн модерациялоонун маанилүү куралы. Тилекке каршы, буга чейин жасалган иштер мындай уулуулуктун классификаторлору окуу маалыматтарындагы бир тараптуулукту алып, кээ бир демографиялык көрсөткүчтөрдү эске алуу менен уулуулукту жасалма түрдө байланыштырарын көрсөттү. Жалган корреляциянын бул түрлөрү белгилүү бир субпопуляцияларда моделдин иштешин олуттуу түрдө начарлатышы мүмкүн. Биз бул маселени CivilComments маалымат топтомунун өзгөртүлгөн варианты аркылуу изилдейбиз” (WILDS веб-сайтында жарыялангандай).

Кокус онлайн жарыялоонун нюанстарын карап көрүңүз.

Сиз дээрлик бардык социалдык медианы колдонууда уулуу комментарийлерге туш болдуңуз. Бүгүнкү күндө кеңири жайылган ачуу жана туңгуюк мазмунду көрүүдөн сыйкырдуу түрдө качуу сизге дээрлик мүмкүн эместей сезилет. Кээде адепсиз материал тымызын жана балким, бир жактуу же басмырлоочу тондун же маанинин маңызын билүү үчүн саптардын ортосунда окууга туура келет. Башка учурларда, сөздөр ачыктан-ачык уулуу жана үзүндүлөр эмнени билдирерин аныктоо үчүн микроскоптун же атайын декодер шакегинин кереги жок.

CivilComments – бул уулуу мазмунду эсептөө жолу менен аныктай турган AI ML/DLди иштеп чыгуу үчүн топтолгон маалымат топтому. Бул аракеттин негизинде изилдөөчүлөр эмнеге көңүл бурушту: “Машиналарды үйрөнүүдөгү күтүлбөгөн бир жактуулук ар кандай демографиялык топтордун иштөөсүндөгү системалык айырмачылыктар катары көрүнүшү мүмкүн, бул жалпы коомдогу адилеттүүлүк үчүн учурдагы көйгөйлөрдү күчөтүшү мүмкүн. Бул макалада биз классификатордун баллынын бөлүштүрүлүшү белгиленген топтор боюнча өзгөрүшү мүмкүн болгон ар кандай жолдорду эске алуу менен, бул күтүлбөгөн тенденциянын нюанстык көрүнүшүн камсыз кылган босого-агностикалык метрикалардын топтомун киргизебиз. Биз ошондой эле инсандык шилтемелер үчүн аннотациялар менен онлайн комментарийлердин чоң жаңы сыноо топтомун киргизебиз. Биз муну биздин метрикаларды колдонуудагы коомдук моделдердеги жаңы жана потенциалдуу тымызын күтүлбөгөн тенденцияларды табуу үчүн кантип колдонсо болорун көрсөтүү үчүн колдонобуз» (Дэниел Боркан, Лукас Диксондун «Тесттин классификациясы үчүн реалдуу маалыматтар менен күтүлбөгөн тенденцияны өлчөө үчүн нюанстык метрика» деген макалада, Джеффри Соренсен, Нитум Тайн, Люси Вассерман).

Эгерде сиз бул маселеге кенен ой жүгүртүп берсеңиз, анда сиз дүйнөдө уулуу комментарий эмне менен уулуу эмес экенин кантип ажырата аласыз деп ойлонуп баштасаңыз болот. Адамдар түп-тамырынан бери, алар түздөн-түз уулуу сөз катары чечмелеп кандай айырмаланышы мүмкүн. Бир адам социалдык медиада жарыяланган белгилүү бир онлайн эскертүүсүнө же комментарийге нааразы болушу мүмкүн, ал эми башка бирөө такыр козголбошу мүмкүн. Көбүнчө уулуу комментарий деген түшүнүк таптакыр бүдөмүк осуят деген жүйө келтирилет. Бул искусство сыяктуу, анда искусство адатта көрүүчүнүн көз алдында гана түшүнүлөт деп айтылат, ошондой эле бир жактуу же уулуу сөздөр да көргөн адамдын көз алдында гана болот.

Балдердаш, кээ бир жооп кайтарды. Акыл-эстүү ар бир адам интернеттеги эскертүү уулуу же зыяндуу экенин аныктай алат. Каустикалык акаараттын кандайдыр бир жек көрүүчүлүккө жана жек көрүүчүлүккө толтурулганын түшүнүү үчүн ракета илимпоз болуунун кереги жок.

Албетте, коомдук адеп-ахлактар ​​убакыттын өтүшү менен өзгөрүп, өзгөрүп турат. Бир аз мурда адепсиздик катары кабыл алынбаган нерсе бүгүн жийиркеничтүү түрдө туура эмес катары каралышы мүмкүн. Анын үстүнө, бир нече жыл мурун айтылган, бир кезде ашыкча калыс деп эсептелген нерселер маанилердин өзгөрүшүнө жараша кайра чечмелениши мүмкүн. Ошол эле учурда, башкалар уулуу комментарийлер качан жарыяланганына карабастан, дайыма уулуу экенин ырасташат. Бул уулуулугун салыштырмалуу эмес, тескерисинче, абсолюттук деп айтууга болот.

Эмненин уулуу экенин аныктоого аракет кылуу маселеси бир топ татаал табышмак болушу мүмкүн. Кайсысы кайсы экенин аныктай турган алгоритмдерди же AI иштеп чыгууга аракет кылып, бул көйгөйлүү маселени эки эсеге кыскарта алабыз. Эгер адамдар мындай баа берүү кыйынга турса, компьютерди программалоо бирдей же андан да көп көйгөйлүү дешет, дейт айрымдар.

Уулуу мазмунду камтыган маалымат топтомдорун түзүүнүн бир ыкмасы мазмунду баалоо же баалоо үчүн краудсорсинг ыкмасын колдонууну камтыйт, демек, эмне жагымсыз деп эсептелерин аныктоонун адамдык каражаттарын камсыз кылуу жана маалымат топтомунун ичиндеги этикеткалоо. Андан кийин AI ML/DL адам баалоочулар тарабынан көрсөтүлгөн маалыматтарды жана ага байланыштуу этикеткаларды текшериши мүмкүн. Бул, өз кезегинде, потенциалдуу негизги математикалык калыптарды эсептөө үчүн бир каражат катары кызмат кыла алат. Voila, ML/DL анда берилген комментарий уулуу болушу мүмкүнбү же жокпу, алдын ала же эсептөө менен баалай алат.

Нюанстуу көрсөткүчтөр боюнча келтирилген кагазда айтылгандай: “Бул этикеткалоо баалоочулардан “Өтө уулуу”, “Уулуу”, “Айтуу кыйын” жана “Уулуу эмес” дегенди тандап, комментарийдин уулуулугун баалоосун суранат. Баалоочулар ошондой эле бул энбелгилер бул жумушта талдоо үчүн колдонулган эмес, бирок, уулуулугун бир нече чакан түрлөрү жөнүндө суралган. Бул баалоо ыкмаларын колдонуу менен биз 1.8 миллион комментарийлерден турган маалымат топтомун түздүк, алар онлайн комментарий форумдарынан алынган, уулуулугу жана иденттүүлүгү үчүн энбелгилерди камтыган. Комментарийлердин баары уулуулугу үчүн белгиленген, ал эми 450,000 комментарийлердин бир бөлүгү өздүгүн аныктоо үчүн белгиленген. Идентификация үчүн белгиленген кээ бир комментарийлер индивидуалдык белгилөөнүн мурунку итерацияларынан курулган моделдер аркылуу алдын ала тандалып алынган, бул көпчүлүк баалоочулар иденттүүлүктүн мазмунун тез-тез көрүп турушу үчүн” (Дэниел Боркан, Лукас Диксон, Джеффри Соренсен, Нитум Тэйн, Люси Вассерман келтирген макалада).

Иллюстративдик уулуу мазмунду камтыган маалымат топтомуна ээ болууну максат кылуунун дагы бир мисалы AI негизиндеги Табигый тилди иштетүү (NLP) сүйлөшүү интерактивдүү тутумдарын окутуу аракеттерин камтыйт. Сиз Alexa жана Siri сыяктуу NLP системалары менен иштешкенсиз. Мен бүгүнкү NLPдин кээ бир кыйынчылыктарын жана чектөөлөрүн, анын ичинде Alexa балдарга ылайыксыз жана кооптуу кеңеш бергенде болгон өзгөчө тынчсыздандырган учурду карадым. бул жерде шилтеме.

Жакында жүргүзүлгөн изилдөө EEOC (Бирдей жумушка орношуу мүмкүнчүлүктөрү боюнча комиссия) корголгон демографиялык мүнөздөмөлөрдүн тизмесине негизделген, анын ичинде жашы, жынысы, улуту, сырткы көрүнүшү, расасы же улуту, дини, майыптык абалы, сексуалдык мүнөздөгү тогуз категорияны колдонууга аракет кылган. багыты, элеуметт!к-экономика-лык жагдайы. Изилдөөчүлөрдүн айтымында: "NLP моделдери социалдык тенденцияларды үйрөнө тургандыгы жакшы документтештирилген, бирок суроолорго жооп берүү (QA) сыяктуу прикладдык тапшырмалар үчүн моделдин натыйжаларында бул тенденциялар кандайча көрүнөрү боюнча аз иш жасалган. Биз QA үчүн Bias Benchmark (BBQ), америкалык англис тилдүү контексттерге ылайыктуу тогуз социалдык чен-өлчөм боюнча корголгон класстарга таандык адамдарга карата тастыкталган социалдык тенденцияларды баса белгилеген авторлор тарабынан түзүлгөн суроолор топтомунун берилиштерин киргизебиз” (“BBQ” деген макалада : A Hand-built Benchmark For Question Answering” тарабынан Алисия Парриш, Анжелика Чен, Никита Нангиа, Вишах Падмакумар, Джейсон Фанг, Джана Томпсон, Пху Мон Хтут, Сэмюэл Р. Боуман).

Атайылап бир жактуу жана толугу менен уулуу маалыматтарды камтыган маалымат топтомдорун түзүү AIдагы өсүп жаткан тенденция болуп саналат жана өзгөчө AI этикасынын пайда болушу жана этикалык AI өндүрүү каалоосу менен курчуду. Бул берилиштер топтому Машиналарды үйрөнүү (ML) жана Deep Learning (DL) моделдерин бир тараптуулуктарды аныктоо жана коомдук ууландырууну талап кылган эсептөө моделдерин аныктоо үчүн үйрөтүү үчүн колдонулушу мүмкүн. Өз кезегинде, уулуулугу боюнча үйрөтүлгөн ML/DL башка AI үчүн максаттуу AI потенциалдуу объективдүү жана уулуу экендигин аныктоо үчүн акылдуулук менен багытталышы мүмкүн.

Мындан тышкары, колдо болгон уулуулугу боюнча үйрөтүлгөн ML/DL тутумдары AI куруучуларына эмнеге көңүл буруу керектигин көрсөтүү үчүн колдонулушу мүмкүн, ошондуктан алар алгоритмдик сиңирилген тенденциялар кантип пайда болгонун көрүү үчүн моделдерди оңой текшере алышат. Жалпысынан, бул аракеттер AI этикасы жана этикалык AI маалымдуулугунун бир бөлүгү катары уулуу AI коркунучун мисал кыла алат.

Бул олуттуу талкуунун дал ушул маалында, мен сиз бул теманы чагылдыра турган дагы бир нече иллюстративдик мисалдарды каалайсыз деп ишенем. Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун айкын көрсөткөн эң таасирдүү багыттардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизиндеги чыныгы өзүн-өзү айдай турган унаалардын пайда болушу уулуу AI ойлоп табуу үчүн берилиштер топтомдорунун пайдалуулугу жөнүндө эч нерсени жарыктандырабы, эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Тактап айтканда, чыныгы өзүн-өзү башкарган унаалар AI унааны толугу менен өз алдынча айдаган унаалар болуп саналат жана айдоо тапшырмасы учурунда эч кандай адам жардамы жок.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлде чыныгы өзүн-өзү башкара турган унаа азырынча жок жана биз буга жетүү мүмкүнбү же жокпу, же ал жакка жетүү үчүн канча убакыт талап кылынарын азырынча билбейбиз.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзү башкара турган унаалар жана руль уулуу AIден таза

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Бул мен айтып жаткан нерсенин негизинде жетиштүү эскертүүлөрдү берет деп үмүттөнөм.

Автономдуу унаалардын жана өзүн-өзү башкарган унаалардын пайда болушуна каршы турган көптөгөн потенциалдар бар жана качандыр бир күнү AI менен туташтырылган бир жактуу көз караштар ишке ашат, мисалы менин талкуумду караңыз. бул жерде шилтеме жана бул жерде шилтеме. Биз дагы эле өзүн-өзү башкаруучу унааларды чыгаруунун алгачкы баскычындабыз. Бала асырап алуу жетиштүү масштабга жана көрүнүүгө жеткенге чейин, мен күткөн уулуу AI аспектилеринин көбү акыры келип чыгат жана али ачык байкала элек жана коомчулуктун кеңири көңүлүн ала элек.

Адегенде толугу менен зыянсыздай сезилиши мүмкүн болгон жөнөкөй көрүнгөн айдоо менен байланышкан маселени карап көрөлү. Тактап айтканда, көчөнү кесип өтүүгө укугу жок “жолдон адашкан” жөө жүргүнчүлөрдү күтүү үчүн токтоп калуу же токтотууну кантип туура аныктоону карап көрөлү.

Сиз, албетте, айдап баратып, көчөнү кесип өтүүнү күтүп жаткан жөө жүргүнчүлөрдү жолуктурдуңуз, бирок алардын өтүүгө укугу жок. Бул сизде токтоп, аларды кесип өтүүгө уруксат берүү боюнча чечимиңиз бар экенин билдирген. Сиз аларды кесип өтпөстөн уланта аласыз жана дагы эле мыйзамдуу айдоо эрежелеринин чегинде боло аласыз.

Мындай жөө жүргүнчүлөр үчүн айдоочулардын токтоп же токтобосун кантип чечкени боюнча изилдөөлөр кээде адам айдоочулар туура эмес көз караштардын негизинде тандоо жасаарын көрсөттү. Адамдын айдоочусу жөө жүргүнчүгө көз салып, токтобоону чечиши мүмкүн, эгер жөө жүргүнчүнүн өңү башка болсо, мисалы, расасына же жынысына жараша токтоп калмак. Мен муну текшердим бул жерде шилтеме.

Ушундай эле токтоо же кете турган чечимди кабыл алуу үчүн AI айдоо системалары кантип программаланат?

Сиз бардык AI айдоо системалары ар дайым күткөн жөө жүргүнчүлөр үчүн токтой тургандай программаланышы керек деп жарыялай аласыз. Бул ишти абдан жөнөкөйлөтөт. Чынында эч кандай чечүүчү чечим жок. Эгерде жөө жүргүнчү өтүүнү күтүп жатса, анын өтүү укугу бар же жок экенине карабастан, AI өзүн-өзү башкара турган унаа жөө өтүп кете алгыдай токтоп калганын текшериңиз.

Оңой peasy.

Жашоо эч качан мынчалык оңой эмес окшойт. Элестеткиле, бардык өзүн-өзү башкарган унаалар бул эрежени сакташат. Жөө жүргүнчүлөр AI айдоо тутумдары, айта турган болсок, түртүү экенин түшүнүшөт. Көчөдөн өтүүнү каалаган бардык жөө жүргүнчүлөр каалаган убакта, каалаган жеринен өтүүнү каалашат.

Өзү башкара турган унаа саатына 45 миль ылдамдык менен ылдам көчөдө келе жатат дейли. Жөө жүргүнчү AI өзүн-өзү башкара турган машинаны токтоторун "билет". Ошентип, жөө жүргүнчү көчөгө сүзүп кирет. Тилекке каршы, физика AIдан утат. AI айдоо системасы өзүн-өзү башкарган унааны токтотууга аракет кылат, бирок автономдуу унаанын импульсу көп тонналык карама-каршылыкты алдыга алып барып, адашкан жөө жүргүнчүнү көздөй сүзөт. Натыйжада же жарадар болуп, же өлүмгө алып келет.

Рулда адам айдоочу болгондо жөө жүргүнчүлөр адатта мындай жүрүм-турумду байкашпайт. Албетте, кээ бир жерлерде көз алмасы согуш болуп жатат. Жөө жүргүнчү айдоочуга көз салып турат. Айдоочу жөө жүргүнчүгө көз салып турат. Жагдайга жараша, айдоочу токтоп калышы мүмкүн же айдоочу жолдун бөлүгүнө өзүнүн дооматын айтып, жөө жүргүнчүнүн жолун бузуп салууга батынышы мүмкүн.

Биз, кыязы, AI ушундай эле көздүн карегиндей согушка кирүүсүн каалабайбыз, бул дагы бир аз кыйын, анткени өзүн-өзү айдаган унаанын рулунда адам же робот отурбайт (мен роботтордун келечектеги мүмкүнчүлүгүн талкууладым) ошол айдап, карагыла бул жерде шилтеме). Бирок биз жөө жүргүнчүлөргө дайыма ок чыгарууга уруксат бере албайбыз. Жыйынтыгы бардык кызыкдар адамдар үчүн каргашалуу болушу мүмкүн.

Ошондо сиз монетанын башка жагына ооп, AI айдоо системасы мындай шарттарда эч качан токтобошу керек деп жарыялоого азгырылышы мүмкүн. Башкача айтканда, эгерде жөө жүргүнчүнүн көчөнү кесип өтүүгө туура укугу жок болсо, AI ар дайым өзүн-өзү башкарган унаа токтобостон жүрүшү керек деп ойлошу керек. Ошол жөө жүргүнчүлөргө ийгилик.

Мындай катаал жана жөнөкөй эреже жалпы коомчулук тарабынан жакшы кабыл алынбайт. Адамдар адамдар жана алар мыйзамдуу түрдө ар кандай шарттарда өтүүгө укугу жок болгонуна карабастан, көчөнү кесип өтүү мүмкүнчүлүгүнөн толугу менен жабылганды жактырбайт. Сиз коомчулуктун чоң ызы-чуусун оңой эле күтө аласыз жана өзүн-өзү башкаруучу унааларды кабыл алууну улантууга каршы реакцияны көрө аласыз.

Эгер кылсак каргылданабыз, кылбасак каргышыбыз керек.

Бул сизди акылдуу альтернативага алып келди деп үмүттөнөм, AI бул айдоо көйгөйү менен кантип күрөшүү керектиги жөнүндө чечим кабыл алуу менен программаланышы керек. Эч качан токтобогон катаал эреже жараксыз, ошондой эле ар дайым токтой турган катуу жана тез эреже да жараксыз. AI маселени чечүү үчүн кандайдыр бир алгоритмдик чечим кабыл алуу же ADM менен иштелип чыгышы керек.

Сиз ML/DL ыкмасы менен бирге берилиштер топтомун колдонууга аракет кылсаңыз болот.

Бул жерде AI иштеп чыгуучулар бул тапшырманы программалоону чечиши мүмкүн. Алар өзүн өзү башкара турган унаа колдонула турган белгилүү бир шаардын айланасында орнотулган видеокамералардагы маалыматтарды чогултат. Маалыматтар адамдын айдоочулары жолго чыгуу укугу жок жөө жүргүнчүлөрдү токтотууну чечкенин көрсөтөт. Мунун баары маалымат топтомуна чогултулган. Machine Learning жана Deep Learningди колдонуу менен маалыматтар эсептөө жолу менен моделделет. AI айдоо системасы качан токтоо же токтобоону чечиш үчүн ушул моделди колдонот.

Жалпысынан алганда, жергиликтүү салт эмнеден турбасын, AI өзүн-өзү айдаган унааны ушундай багыттайт деген идея. Маселе чечилди!

Бирок, чындап эле чечилдиби?

Эске салсак, мен буга чейин адам айдоочулары жөө жүргүнчүлөр үчүн качан токтоорун тандоодо бир жактуу болушу мүмкүн экенин көрсөткөн изилдөөлөр бар экенин белгилеген элем. Белгилүү бир шаар жөнүндө чогултулган маалыматтар, кыязы, ошол калыстыктарды камтыйт. Ошол маалыматтарга негизделген AI ML/DL, кыязы, ошол эле көз караштарды моделдейт жана чагылдырат. AI айдоо системасы жөн гана ошол эле бар көз караштарды жүзөгө ашырат.

Маселени чечүүгө аракет кылуу үчүн, биз чындыгында ушундай терс жактары бар маалыматтар топтомун чогултсак болот. Биз же мындай маалымат топтомун таап, андан кийин бир тараптуулуктарды белгилейбиз, же синтетикалык түрдө маселени иллюстрациялоого жардам берүү үчүн маалымат топтомун түзөбүз.

Мурда аныкталган бардык кадамдар жасалат, анын ичинде:

• Атайылап ушул өзгөчөлүктү камтыган берилиштер топтомун орнотуңуз
• Берилиштер топтомун Machine Learning (ML) жана Deep Learning (DL) моделдерин үйрөтүү үчүн колдонуңуз.
• Максаттуу AI дагы ушундай жол менен бир тараптуу болушу мүмкүн экендигин аныктоо үчүн башка AIга карата бир жактуу үйрөтүлгөн ML/DLди колдонуңуз
• AI куруучуларга эмнеге көңүл буруу керек экенин көрсөтүү үчүн бир жактуу үйрөтүлгөн ML/DLди жеткиликтүү кылыңыз, ошондо алар алгоритмдик сиңирилген бир жактуулуктар кандайча пайда болоорун көрүү үчүн моделдерин оңой текшере алышат.
• Бул кошумчаланган конкреттүү мисал аркылуу AI этикасынын жана этикалык AI маалымдуулугунун бир бөлүгү катары бир жактуу AI коркунучун мисал кылыңыз
• башка

жыйынтыктоо

Келгиле, ачылыш сызыгын кайра карап көрөлү.

Бирөөнү билүү үчүн бирөө керек.

Кээ бирөөлөр бул укмуштуудай кеңири таралган сөз уулуу AI чыгарууга келгенде, биз башка уулуу AI менен күрөшүү үчүн уулуу AI түзүүгө жана колдонууга тийишпиз дегенди билдирет деп чечмелешет. Жыйынтык: Кээде башка ууруну кармаш үчүн ууру талап кылынат.

Балким, биз ууруларды жасоого аракет кылып жатабыз деген кооптонуу бар. Биз уулуу болгон AI ойлоп табууну каалайбызбы? Бул жинди идея окшойт эмеспи? Кээ бирөөлөр биз бардык уулуу AIларга, анын ичинде баатыр же эр жүрөк үчүн атайын жасалган AIга тыюу салышыбыз керек деп катуу талашып жатышат. AI For Good ой-ниети.

Уулуу AI пайда болушу мүмкүн болгон кандай гана акылдуу же тымызын көрүнүштө болбосун, өчүрүңүз.

Азырынча бул тема боюнча акыркы бир бурулуш. Биз көбүнчө бул атактуу линия жаман же кычкыл иштерди жасаган адамдарга же нерселерге байланыштуу деп ойлойбуз. Ууруну кармаш үчүн ууру керек деген түшүнүккө ушинтип конобуз. Мүмкүн, бул сөздү кайра буруп, кайгылуу жүзгө караганда кубанычтуу жүзгө айландырышыбыз керек.

Бул жерде кандай.

Эгер биз AI калыс жана уулуу эмес болгубуз келсе, аны билүү үчүн бирөө керек деп ойлошу мүмкүн. Балким, мындан аркы улуулукту жана жакшылыкты таанып, жаратуу үчүн эң чоң жана эң жакшы нерсе керек. Даанышмандыктын бул вариантында биз көңүлүбүздү бактылуу жүзгө карап, ой жүгүртүүгө көңүл бурууну максат кылабыз. AI For Good.

Эгер мен эмнени айткым келгенин түшүнсөңүз, бул дагы жакшыраак жана канааттандырарлык шайыр көз караш болмок.