AI этикасынын айтымында, AI өзгөчө адамдык көз караштар көп болгондо колдонулушу керек

Адамдар өздөрүнүн чектөөлөрүн билиши керек.

1973-жылы тартылган фильмде Кирти Гарринин каарманы катаал айтылган биздин чектөөлөрүбүздү билүү жөнүндөгү атактуу сапты эстесеңиз керек. Магнум Force (Инспектор Гарри Каллахандын ролун аткарган актер Клинт Иствуддун айткан сөздөрү боюнча). Жалпы түшүнүк, кээде биз өзүбүздүн чектөөлөрүбүздү байкабай, ошого жараша ысык сууга түшүп калабыз. Текебердиктенби, эгоцентрдиктенби же жөн эле өзүбүздүн мүмкүнчүлүктөрүбүздү көрбөгөндүктөнбү, биздин ыктарыбызды жана кемчиликтерибизди билип, ачык эсепке алуу осуяттары абдан акылга сыярлык жана пайдалуу.

Келгиле, акылмандардын кеңешине жаңы бурулуш киргизели.

Жасалма интеллект (AI) өзүнүн чектөөлөрүн билиши керек.

Урматтуу сөз айкашынын ошол варианты менен эмнени айткым келет?

Заманбап интеллектти дүйнөлүк көйгөйлөрдү чечүүчү каражат катары колдонууга болгон алгачкы шашылыш азыркы AI бир кыйла олуттуу чектөөлөр бар экенин түшүнүү менен жарактан чыгып, такыр эле булганып калды. деген көтөрүлгөн баш макалалардан кеттик AI For Good жана уламдан-улам баткакка батып баратканыбызды байкадык AI For Bad. Көрдүңүзбү, көптөгөн AI тутумдары ар кандай жагымсыз расалык жана гендердик көз караштар жана башка көптөгөн коркунучтуу теңсиздиктер менен иштелип чыккан жана иштетилген.

Менин AI этикасы жана этикалык AI жөнүндө кеңири жана үзгүлтүксүз чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Бул AI системаларында табылган бир тараптуулуктар, биз адамдын жүрүм-турумуна таандык кылган "атайылап" деп айтууга болбойт. Мен муну бүгүнкү AI сезимтал эмес экенин баса белгилөө үчүн айтып жатам. Башкача айтканда, ошол жаркыраган баш макалаларга карабастан, эч бир жерде акыл-эстүүлүккө жакын AI жок. Анын үстүнө, биз AIны сезимталдык кронштейнге кантип киргизүүнү билбейбиз, ошондой эле AI сезимине жетебизби же жокпу, эч ким так айта албайт. Мүмкүн ал качандыр бир күнү болот, же болбойт.

Ошентип, менин оюмча, биз азыркы учурда ээ болгон AI түрүнө өзгөчө ниет бере албайбыз. Айтор, биз AI тутумдарын жасап жаткандарга көп ниеттене алабыз. Кээ бир AI иштеп чыгуучулар AI тутумун ойлоп табышканын билишпейт, анда жагымсыз жана мүмкүн мыйзамсыз бир жактуу көз караштар бар. Ошол эле учурда, башка AI иштеп чыгуучулары өздөрүнүн AI тутумдарына бир жактуу көз караштарды киргизип жатышканын түшүнүшөт жана муну максаттуу түрдө туура эмес кылышы мүмкүн.

Кандай болгон күндө да, натыйжа дагы эле жагымсыз жана мыйзамсыз болушу мүмкүн.

AI иштеп чыгуучуларын агарта турган жана алардын AI тутумдарына бир тараптуулуктарды киргизүүдөн арылуу үчүн ылайыктуу жетекчиликти камсыз кылган AI этикасынын принциптерин жарыялоо боюнча катуу аракеттер көрүлүүдө. Бул эки жагынан жардам берет. Биринчиден, AI жасагандар мындан ары кандай осуяттарды аткаруу керектигин билишпейт деп шылтоолобой калышат. Экинчиден, этикалык AI шарттарынан баш тарткандар тезирээк кармалып, алар алдын ала эскертилген жана кылбаган нерселерден качышат.

Келгиле, AI куруучулар эмне жөнүндө ойлонуп, AI этикасынын позициясынан катуу киришиши керек экенин көрсөтүү үчүн кээ бир негизги этикалык AI осуяттарын кыскача карап көрөлү.

Ватикандын билдирүүсүндө Рим AI этикасына чакырат жана мен тереңирээк карадым бул жерде шилтеме, булар алардын аныкталган алты негизги AI этикасынын принциптери:

• ачыктык: Негизи, AI системалары түшүнүктүү болушу керек
• Кошуу: Ар бир адам пайда көрүшү үчүн жана бардык инсандарга өзүн көрсөтүү жана өнүктүрүү үчүн мүмкүн болгон эң жакшы шарттарды сунуштоо үчүн бардык адамдардын муктаждыктары эске алынышы керек.
• жоопкерчилиги: AI колдонууну иштеп чыккан жана жайылткандар жоопкерчилик жана айкындуулук менен жүрүшү керек
• Калыс: Адилеттүүлүктү жана адамдык ар-намысты коргоп, бир жактуулукту жаратпаңыз же аракет кылбаңыз
• ишенимдүүлүк: AI системалары ишенимдүү иштей алышы керек
• Коопсуздук жана купуялык: AI системалары коопсуз иштеши керек жана колдонуучулардын купуялыгын сыйлашы керек.

АКШнын Коргоо министрлигинин (DoD) билдирүүсүндө Жасалма интеллектти колдонуунун этикалык принциптери жана мен тереңирээк карадым бул жерде шилтеме, булар алардын алты негизги AI этика принциптери:

• Жооптуу: DoD кызматкерлери AI мүмкүнчүлүктөрүн иштеп чыгуу, жайылтуу жана колдонуу үчүн жоопкерчиликтүү бойдон калууда, тиешелүү деңгээлде ой жүгүртүү жана кам көрүшөт.
• Адилеттүү: Бөлүм AI мүмкүнчүлүктөрүндө күтүлбөгөн терс көрүнүштөрдү азайтуу үчүн атайылап чараларды көрөт.
• Изделүүчү: Бөлүмдүн AI мүмкүнчүлүктөрү тиешелүү персонал AI мүмкүнчүлүктөрүнө колдонулуучу технологияларды, иштеп чыгуу процесстерин жана оперативдүү методдорун, анын ичинде ачык-айкын жана аудитордук методологияларды, маалымат булактарын, долбоорлоо процедурасын жана документтерин тийиштүү түшүнүүгө ээ болушу үчүн иштелип чыгат жана жайылтылат.
• ишенимдүү: Бөлүмдүн AI мүмкүнчүлүктөрү ачык, так аныкталган колдонууга ээ болот жана мындай мүмкүнчүлүктөрдүн коопсуздугу, коопсуздугу жана натыйжалуулугу алардын бүткүл жашоо циклдеринде аныкталган колдонуунун алкагында сыноодон жана кепилдиктен өтүүгө тийиш.
• Башкарылуучу: Бөлүм күтүлбөгөн кесепеттерди аныктоо жана болтурбоо, ошондой эле күтүлбөгөн жүрүм-турумду көрсөткөн орнотулган системаларды өчүрүү же өчүрүү жөндөмдүүлүгүнө ээ болуу менен, өз милдеттерин аткаруу үчүн AI мүмкүнчүлүктөрүн иштеп чыгат жана инженериялайт.

Мен ошондой эле AI этикасынын принциптеринин ар кандай жамааттык анализдерин талкууладым, анын ичинде көптөгөн улуттук жана эл аралык AI этикасынын жоболорунун маңызын изилдеген жана конденсациялаган изилдөөчүлөр тарабынан иштелип чыккан комплексти камтыган “The Global Landscape of AI Ethics Guidelines” (жарыяланган. ичинде жаратылыш), жана менин камтуум изилдейт бул жерде шилтеме, бул негизги таш тизмесине алып келди:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Түздөн-түз божомолдогонуңуздай, бул принциптердин негизинде жаткан өзгөчөлүктөрдү аныктоого аракет кылуу өтө кыйын болушу мүмкүн. Андан тышкары, бул кеңири принциптерди AI тутумдарын жасоодо колдонуу үчүн толугу менен сезилерлик жана деталдуу нерсеге айландыруу аракети да катаал жаңгак болуп саналат. Жалпысынан AI этикасынын осуяттары эмне экендиги жана аларды жалпысынан кантип сактоо керектиги жөнүндө кол булгалоо оңой, ал эми AI коддоосу жолго жооп берген чыныгы резина болушу керек болгон бир топ татаал жагдай.

AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, акырында AI тутумдарын иштеткен жана тейлеген адамдар да колдонушу керек. AI өнүктүрүүнүн жана колдонуунун бүткүл циклинин бардык кызыкдар тараптары Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлор гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманууга тийиш. Сураныч, AI ойлоп табуу жана иштетүү үчүн айыл керек экенин эске алыңыз. Бул үчүн бүткүл айыл AI этикасын кармап турушу керек.

Эмнеси болсо да, азыр мен AI бир беткейликти камтышы мүмкүн деген үстөлгө түшкөндөн кийин, биз баарыбыз бул эки ачык фактыга макул болушубуз мүмкүн:

1. Адамдар көптөгөн терс көз караштарга ээ болушу мүмкүн жана аларга ылайык иш кыла алышат

2. AI көптөгөн жагымсыз көз караштарга ээ болушу мүмкүн жана ошол калыстыктарга жараша иш кыла алат

Мен бул контекстте адамдарды AI менен салыштырууну бир аз жек көрөм, анткени бул кандайдыр бир жол менен AI адамдар менен бирдей сезимтал жөндөмдүүлүктөргө ээ экенин билдириши мүмкүн. Бул, албетте, андай эмес. Мен бул талкууда бир аз кийинчерээк AIны антропоморфизациялоо боюнча көбөйүп жаткан тынчсызданууларга кайтып келем.

Кайсы жаманы, адамдар терс көз караштарды көрсөтөт же ушундай кылган AI?

Суроо ошол оор тандоолордун бирин туудурат деп айта алам. Бул эки жамандыктын кичирээк ылакап, бири талашса болот. Биз адамдарда терс көз караштар болбосун деп каалайбыз. Мындан ары биз адамдарда терс көз караштар болсо да, алар ошол калптарга каршы иш кылбасын каалайбыз. AI жөнүндө да ушуну айтууга болот. Биз AI терс көз караштарды салбасын жана ички коддолгон бир жактуулуктар болсо дагы, AI жок дегенде аларга каршы иш кылбасын каалайбыз.

Каалоо тилектер сөзсүз түрдө дүйнөнү башкара бербейт (менин талдоом үчүн AI каалоонун аткарылышы жалпы коом тарабынан карагыла бул жерде шилтеме).

Макул, биз адамдар өздөрүнүн чектөөлөрүн билишин каалайбыз. Качан сизде терс көз караштар бар экенин түшүнүү маанилүү. Сиздин иш-аракеттериңизге жана чечимдериңизге терс көз караштардын сиңишине жол бербөөгө аракет кылуу да бирдей мааниге ээ. Бүгүнкү күндө ишканалар өз кызматкерлерин коркунучтуу тузактарга түшүп калбоо үчүн ар кандай ыкмаларды колдонуп жатышат. Кызматкерлерге өз ишин этикалык жактан туура аткаруу боюнча атайын тренингдер өткөрүлүүдө. Процесстер кызматкерлердин айланасында этикага туура келбеген адеп-ахлактарды көрсөтүп жатканда аларды эскертүү үчүн түзүлгөн. Жана башка.

Адамдарга жана алардын терс көз караштарына каршы күрөшүүнүн дагы бир жолу адамдык ишти автоматташтыруу болот. Ооба, жөн гана адамды циклден алып салыңыз. Адамга чечим кабыл алуу тапшырмасын аткарууга жол бербеңиз жана сизде адамдын кандайдыр бир терс көз караштарга карата эч кандай тынчсыздануусу жок. Бул жерде адам катышпайт, демек, адамдык потенциалдуу көз караштар маселеси чечилген окшойт.

Мен муну айтып жатам, анткени биз AIди алгоритмдик чечимдерди кабыл алууда (ADM) колдонууга акырындык менен жана масштабдуу жылыштын күбөсү болуп жатабыз. Эгерде сиз жумушчуну AI менен алмаштыра алсаңыз, анда көптөгөн пайдалар пайда болот. Жогоруда айтылгандай, сиз мындан ары ошол жумушчунун (мындан ары бул жумушту аткарбай калган) адамдык көз караштары жөнүндө тынчсызданбайсыз. Мүмкүнчүлүктөр AI узак мөөнөттүү убакыт горизонтуна салыштырмалуу жалпысынан азыраак чыгымга учурайт. Сиз адам жумушчулары менен жарым-жартылай келип турган башка бардык кыйынчылыктардан баш тартасыз. Жана башкалар.

Жерге түшө баштаган бир сунуш бул: AIны эң жакшы кайда жайгаштырууну чечүүгө аракет кылып жатканда, адегенде жумушчуларыңыздын адамдык көз караштарына алып келген жана бул өңүттөр чечим кабыл алуудагы конкреттүү милдеттерди кыскартып же өтө татаалдаштырган жөндөөлөрдү караңыз.

Жыйынтыктап айтканда, AIга инвестиция салуу жагынан эң көп пайда табуу акылдуулукка жатат, бул адамдын чечимдерди кабыл алуудагы ачык-айкын милдеттерин чечүүгө багытталган. Бул ролдогу адам жумушчуларды алып салыңыз. Аларды AI менен алмаштырыңыз. AI мындай терс көз караштарга ээ эмес деген божомол бар. Ошондуктан, сиз тортуңузду алып, аны жей аласыз, тактап айтканда, чечимдерди кабыл алып, этикалык жана юридикалык жагымсыз көз караштарды алып салсаңыз болот.

Качан сиз муну карасаңыз, ROI (инвестициялардын кайтарымы) AI кабыл алууну оңой эмес тандоого айлантат.

Бул, адатта, кантип ойнойт.

Фирмаңызды карап чыгыңыз жана кардарларга таасир этүүчү чечимдерди кабыл алуу милдеттерин аныктоого аракет кылыңыз. Ошол милдеттердин ичинен кайсынысы, эгерде жумушчулар терс көз караштарды камтыса, орунсуз түрдө тайгаланып кетиши мүмкүн? Эгер сиз буга чейин эле бул көз караштарды ооздуктоого аракет кылган болсоңуз, балким, сиз бардыгын мурункудай калтырасыз. Экинчи жагынан, эгер бир жактуу көз караштар кайра пайда боло берсе жана аларды жок кылуу аракети оор болсо, анда тиешелүү AIны бул ролго түшүрүүнү ойлонуп көрүңүз. Жумушчуларды аралаштырбаңыз, анткени алар AIны жокко чыгарышы же AIны кайра туура эмес көзкараштардын туңгуюгуна түртүшү мүмкүн. Ошондой эле, AI тапшырманы жакшы аткара аларына жана ишти аткаруу үчүн талап кылынган чечимдерди кабыл алуунун аспекттерин жетиштүү түрдө басып алганыңызды текшериңиз.

Жуугула, кайталап.

Мен бул жөнөкөй түшүнүк сыяктуу сезилет, бирок адам жумушчуларын AI менен алмаштыруу оңой эле бузулуп кетиши мүмкүн экенин түшүнөм. Көптөгөн компаниялар мындай иш-аракеттерди жасоого ынтызар болгон жана муну кантип жасоону ойлонушкан эмес. Натыйжада, алар көбүнчө колдорунда болгонго караганда алда канча жаман баш аламандыктарды жасашкан.

Мен AI панацея эмес экенин тактап, баса белгилегим келет.

Бул тууралуу сөз кылып жатып, адамдын калыс чечим кабыл алуучуларды калыс AI менен ыргытып жиберүү тазалыгы жөнүндө бир чоң көйгөй бар. Катуу нерсе, сиз жөн гана бир катар терс көз караштарды башкасына алмаштырып жатышыңыз мүмкүн. Мурунку көрсөткүчкө ылайык, AI жагымсыз көз караштарды камтышы мүмкүн жана ошол калптарга каршы иш-аракет кыла алат. Бейтарап адамдарды калыс AI менен алмаштыруу – бул жөн эле эмес деген уятсыз божомол жасоо.

Кыскача айтканда, бул жерде бир тараптуу факторлордон маселени карап жатканда келишим:

• AI эч кандай терс көз караштарга ээ эмес жана ошондуктан AI негизделген ADM колдонууга ыңгайлуу
• AI алмаштырылган адамдар сыяктуу эле терс көз караштарга ээ жана ошентип AI негизделген ADM тынчсыздандырат.
• AI алмаштырылган адамдарга караганда жаңы терс көз караштарды киргизет жана ошого жараша нерселерди начарлатат.
• AI башында жакшы көрүнөт, андан кийин бара-бара жагымсыз көз караштарга айланат
• башка

Биз бул мүмкүнчүлүктөрдү кыскача ачып бере алабыз.

Биринчиси эмне болушу мүмкүн деген идеалдуу версия. AI эч кандай терс көз караштарга ээ эмес. Сиз AIны ордуна койдуңуз жана ал жумушту эң сонун аткарат. Силер үчүн жакшы! Албетте, сиз дагы AI кошулгандыктан адам жумушчуларынын жер которуштуруусун кандайдыр бир деңгээлде чечкениңизге үмүттөнөбүз.

Экинчи учурда, сиз AIны орнотуп, AI адам жумушчуларындай эле терс көз караштарды көрсөтүп жатканын билесиз. Бул кантип болушу мүмкүн? Бул тузакка түшүүнүн кеңири таралган жолу - бул ролдогу адамдардын мурда кандай чечим кабыл алганы жөнүндө чогултулган маалыматтардын негизинде Machine Learning (ML) жана Deep Learning (DL) колдонуу.

Мага бир аз түшүндүрүүгө уруксат бериңиз.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, бул кайда баратат деп болжолдой аласыз. Эгерде көп жылдар бою жумуш жасап келе жаткан адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. Моделдештирүүнүн жалпы сезимдин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. Аркандуу математика азыр жашырылган тенденцияларды ачууну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келген моделдердин ичинде калпыстыктар сакталат деген чоң мүмкүнчүлүк бар.

Баардыгы айтылгандай, сиз биринчи квадратка кайтып келишиңиз мүмкүн. Адамдардын ошол эле терс көз караштары азыр AI тутумунда эсептөөдө чагылдырылган. Сиз бир тараптуулукту жойгон жоксуз.

Андан да жаманы, AI бир жактуу экенин түшүнбөй калышы мүмкүн. Адамдарга келсек, сиз адатта адамдардын терс көз караштары бар экенине сак болушуңуз мүмкүн. Бул базалык күтүү. AI колдонуу лидерлерди автоматташтыруу адамдын ар кандай көз карашын толугу менен жок кылды деп ишендириши мүмкүн. Ошентип, алар өздөрүн буту менен атып салганга даярданып жатышат. Алар көрүнгөн жагымсыз көз караштары бар адамдардан арылышты, анын ордуна андай тенденциялары жок деп эсептелген AI менен алмаштырылды, бирок азыр AI мурдатан эле белгилүү болгон көз караштары менен толукталган.

Бул чындап эле көзгө урунат. Сиз адам жумушчулары менен бирге колдонулган башка тосмолорду алып салсаңыз керек, алар буга чейин күтүлгөн адамдык терс көрүнүштөрдүн пайда болушун аныктоо жана алдын алуу үчүн түзүлгөн. AI азыр эркиндикке ээ. Иш-аракет кылуудан мурун аны кармай турган эч нерсе жок. Андан кийин AI сизди бир тараптуу аракеттердин чоң топтолушуна алып барышы мүмкүн.

Жана сиз ыңгайсыз жана балким жоопкерчиликтүү абалда турасыз, буга чейин сиз бир тараптуулуктар жөнүндө билгенсиз жана азыр ошол калпыстыктардын бүлүнүшүнө жол бергенсиз. Мындай жагымсыз көз караштарды эч качан жолуктурбоо бир нерсе, анан күтүлбөгөн жерден AI аларды пайда кылат. Сиз муну “ким ойлогон” алаксыткычтын түрү менен актоого аракет кылышыңыз мүмкүн (анчалык ынанымдуу эмес, балким). Бирок азыр AI орноткон үчүн, ал мурункудай эле бир жактуу иш-аракеттерди жасап жатат, демек, сиздин шылтооңуз ичкерип баратат.

Буга бурулуп, AI адамдар тапшырманы аткарып жатканда мурда кездешпеген терс көрүнүштөрдү көрсөтөт. Мунун алдын алуу кыйыныраак деп айтууга болот, анткени ал фирма буга чейин издеп көрбөгөн “жаңы” көз караштардан турат. Акыр-аягы, шылтоолор сизге анчалык деле жеңилдик бербей калышы мүмкүн. Эгерде AI системасы этикага туура келбеген жана мыйзамсыз аймакка кирсе, анда сиздин казыңыз бышкан болушу мүмкүн.

Дагы бир нерсени эстен чыгарбоо керек, AI жакшы эле башталып, андан кийин терс көрүнүштөргө кириши мүмкүн. Бул, айрыкча, AIны жаңыртуу үчүн Machine Learning же Deep Learning колдонуу үзгүлтүксүз ишке ашырылганда мүмкүн. ML/DL реалдуу убакыт режиминде иштеп жатабы же мезгил-мезгили менен жаңыртууларды жасап жатабы, көңүл бурулушу керек, AI азыр бурмалоолорду камтыган жана мурда жок болгон маалыматтарды жутуп жатабы.

Бир жактуу адамдарды AI менен алмаштыруу үчүн сыйкырдуу таякчаны булгалап бекер түшкү тамактанам деп ойлогон лидерлер үчүн алар өтө орой ойгонууга даяр. Лидерлерге AI этикасынын осуяттары менен мүмкүнчүлүк берүүнүн маанилүүлүгү жөнүндө менин талкуумды караңыз бул жерде шилтеме.

Ушул талкуунун дал ушул маалында, мен сиз адамдын терс көз караштарын AI-ге негизделген терс көз караштар менен алмаштыруу (же эмес) табышмактарын көрсөтө турган кээ бир реалдуу мисалдарды каалайсыз деп ишенем.

Сураганыңызга кубанычтамын.

Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү аймактардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизиндеги чыныгы өзүн-өзү айдай турган унаалардын пайда болушу AIдагы терс көрүнүштөр жөнүндө эч нерсени жаркыратабы жана эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Түшүндүрмө катары айтканда, чыныгы өзүн өзү башкаруучу автоунаалар - бул КТ унааны толугу менен өз алдынча айдайт жана айдоо учурунда адам жардамы болбойт.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлдеги чыныгы өзүн-өзү айдаган унаа азырынча жок, ага жетүү мүмкүнбү же ага канча убакыт кетет дагы билбейм.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзүн башкарган унаалар жана AI

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Мен ишенем, бул мен айткым келген нерселердин негизинде жетиштүү эскертүүлөрдү берет.

Биз азыр өзүн-өзү айдаган унааларга жана AI жана терс көз караштарды изилдөөнү талап кылган этикалык AI мүмкүнчүлүктөрүнө терең сүңгүп чыгууга даярбыз.

Келгиле, жөнөкөй мисалды колдонолу. AI негизиндеги өзүн-өзү башкара турган унаа сиздин коңшулук көчөлөрүңүздө жүрүп жатат жана коопсуз айдап баратат. Башында сиз өзүн-өзү башкара турган унааны көргөн сайын өзгөчө көңүл бургансыз. Автономдуу унаа видеокамераларды, радар блокторун, LIDAR түзүлүштөрүн жана башка ушул сыяктууларды камтыган электрондук сенсорлордун стойкасы менен өзгөчөлөндү. Коомчулуктун айланасында бир нече жума бою өзүн-өзү башкара турган унаа круиздегенден кийин, азыр аны араң байкайсыз. Сиздин оюңузча, бул ансыз деле бош эмес коомдук жолдордогу башка унаа.

Өзү башкаруучу унааларды көрүү менен таанышуу мүмкүн эмес же акылга сыйбас деп ойлобоңуз үчүн, мен өзүм айдаган унааларды сынап көрүүнүн алкагындагы аймактар ​​бара-бара карагайлуу унааларды көрүүгө кантип көнүп калгандыгы жөнүндө көп жаздым. менин анализимди караңыз бул шилтемени бул жерде. Акыры, жергиликтүү тургундардын көбү оозун ача тиктеп, тажап бараткан ызы-чуу сезимине өтүштү.

Кыязы, азыр алардын автономдуу унааларды байкап калышынын негизги себеби - кыжырдануу жана ачуулануу фактору. Китепте жазылган AI айдоо тутумдары унаалар бардык ылдамдык чектөөлөрүнө жана жол эрежелерине баш ийип жатканын текшерет. Кадимки адам башкарган унааларындагы тынымсыз айдоочулар үчүн, сиз мыйзамды катуу сактаган AI негизиндеги өзүн-өзү айдаган унаалардын артында тыгылып калганда кыжырданасыз.

Бул туура же туура эмес, баарыбыз көнүшүбүз керек болгон нерсе.

Биздин жомокко кайтуу.

Көрсө, AI негизиндеги өзүн-өзү башкаруучу унаалар, башкача айтканда, зыянсыз жана жалпы кабыл алынган эки түшүнүксүз тынчсыздануулар пайда боло баштайт:

а. AI унааларды алуу үчүн өзүн-өзү башкарган унааларды роумингде жүргөн жерде жалпы коомчулукта тынчсыздануу жаратты.

б. AI жолго укугу жок күтүп турган жөө жүргүнчүлөргө кандай мамиле кылып жатканы дагы көтөрүлүп жаткан маселе.

Алгач, AI бүткүл шаар боюнча өзүн-өзү башкарган унааларды кыдырып жүргөн. Өзү башкаруучу унаага түшүүнү каалагандардын бардыгы тең бирдей мүмкүнчүлүккө ээ болгон. Акырындык менен, AI, биринчи кезекте, шаардын бир бөлүгүндө роумингде өзүн-өзү башкара турган унааларды кармай баштады. Бул бөлүм көбүрөөк акча табуучу болгон жана AI системасы коомчулукта колдонуунун бир бөлүгү катары кирешени көбөйтүүгө аракет кылып программаланган.

Шаардын жакыр аймактарындагы жамааттын мүчөлөрү өзүн-өзү башкарган унаадан азыраак жүрүшчү. Себеби, өзүн-өзү башкарган унаалар алысыраак жана жергиликтүү аймактын кирешеси жогору болгон бөлүгүндө роумингде жүргөн. Шаардын алыскы бөлүгүнөн суроо-талап түшкөндө, шаардын "урматтуу" бөлүгүндө болушу мүмкүн болгон жакыныраак жерден келген суроо-талап жогорураак болмок. Акыр-аягы, шаардын бай бөлүгүнөн башка жерде өзүн-өзү башкаруучу машинаны алуу дээрлик мүмкүн эмес болчу, бул азыр ресурстарга муктаж болгон аймактарда жашагандар үчүн.

Сиз AI прокси дискриминациясынын бир түрүнө (ошондой эле көбүнчө кыйыр басмырлоо деп аталат) конду деп ырастасаңыз болот. AI ошол жакыр райондордон качуу үчүн программаланган эмес. Анын ордуна, ал ML/DL колдонуу аркылуу муну "үйрөндү".

Кеп нерсе, ridesharing адам айдоочулары бир эле нерсени жасаганы үчүн белгилүү болгон, бирок сөзсүз түрдө акча табуу бурчуна байланыштуу эмес. Шаардын айрым бөлүктөрүндө чабандестерди чогултууга терс көз карашта болгон кээ бир айдоочулар болгон. Бул бир аз белгилүү болгон көрүнүш жана шаар муну кылып жаткан айдоочуларды кармоо үчүн мониторинг ыкмасын киргизген. Адам айдоочулар жагымсыз тандоо практикасын жүргүзүү үчүн кыйынчылыкка дуушар болушу мүмкүн.

AI эч качан ошол эле кумга түшпөйт деп болжолдонгон. AI негизинде өзүн-өзү башкара турган унаалар кайда баратканын көзөмөлдөө үчүн атайын мониторинг түзүлгөн эмес. Коомчулуктун өкүлдөрү нааразы боло баштагандан кийин гана шаар жетекчилери эмне болуп жатканын түшүнүштү. Автономдуу унаалар жана өзүн-өзү башкаруучу унаалар сунуштай турган жалпы шаардык маселелердин ушул түрлөрү боюнча көбүрөөк маалымат алуу үчүн, менин камтууумду караңыз бул шилтемени бул жерде жана бул темада мен биргелешип жазган Гарвард жетектеген изилдөөнү сүрөттөйт.

AI-негизделген өзүн-өзү башкара турган унаалардын роуминг аспектилеринин бул мисалы, адамдарда терс көз караштарга алып келген жагдайлар болушу мүмкүн экенин, ал үчүн башкаруу орнотулганын жана ошол адам айдоочуларын алмаштыруучу AI кынтыксыз калганын көрсөтүп турат. бекер. Тилекке каршы, AI акырындык менен окшоштуктарга батып, жетиштүү тосмолорду орнотпостон жасай алат.

Экинчи мисал, AI көчөнү кесип өтүүгө укугу жок жөө жүргүнчүлөрдү күтүү үчүн токтоп-токтобоону аныктоону камтыйт.

Сиз, албетте, айдап баратып, көчөнү кесип өтүүнү күтүп жаткан жөө жүргүнчүлөрдү жолуктурдуңуз, бирок алардын өтүүгө укугу жок. Бул сизде токтоп, аларды кесип өтүүгө уруксат берүү боюнча чечимиңиз бар экенин билдирген. Сиз аларды кесип өтпөстөн уланта аласыз жана дагы эле мыйзамдуу айдоо эрежелеринин чегинде боло аласыз.

Мындай жөө жүргүнчүлөр үчүн айдоочулардын токтоп же токтобосун кантип чечкени боюнча изилдөөлөр кээде адам айдоочулар туура эмес көз караштардын негизинде тандоо жасаарын көрсөттү. Адамдын айдоочусу жөө жүргүнчүгө көз салып, токтобоону чечиши мүмкүн, эгер жөө жүргүнчүнүн өңү башка болсо, мисалы, расасына же жынысына жараша токтоп калмак. Мен муну текшердим бул жерде шилтеме.

Элестеткиле, AI негизиндеги өзүн-өзү башкара турган унаалар жолдо жүрүү укугу жок жөө жүргүнчүлөр үчүн токтойбу же токтобойбу деген суроону чечүүгө программаланган. AI иштеп чыгуучулары бул тапшырманы кантип программалоону чечишти. Алар шаардын бардык тегерегине орнотулган шаардын видеокамераларынан маалыматтарды чогултушкан. Маалыматтар жол эрежеси жок жөө жүргүнчүлөр үчүн токтогон адам айдоочуларды жана токтобогон адам айдоочуларды көрсөтөт. Мунун баары чоң маалымат топтомуна чогултулган.

Machine Learning жана Deep Learningди колдонуу менен маалыматтар эсептөө жолу менен моделделет. AI айдоо системасы качан токтоп же токтобоону чечиш үчүн ушул моделди колдонот. Жалпысынан алганда, жергиликтүү салт эмнеден турбасын, AI өзүн-өзү айдаган унааны ушундай багыттайт деген идея.

Шаар жетекчилерин жана тургундарын таң калтыргандай, AI жөө жүргүнчүнүн сырткы көрүнүшүнө, анын ичинде расасына жана жынысына жараша токтоп же токтобоону чечкен. Өзүн-өзү башкара турган унаанын сенсорлору күтүп жаткан жөө жүргүнчүнү сканерлеп, бул маалыматты ML/DL моделине киргизип, модель AIга токтоп же улантууну чыгарат. Өкүнүчтүүсү, шаарда буга чейин бул жагынан көптөгөн айдоочулук көз караштар болгон жана AI азыр аны туурап жаткан.

Жакшы жаңылык, бул мурда эч ким билбеген маселени козгойт. Жаман жаңылык, AI муну менен кармалгандыктан, күнөөнүн көбүн өзүнө алды. Бул мисал AI системасы адамдардын мурунтан эле бар болгон терс көз караштарын кайталашы мүмкүн экенин көрсөтүп турат.

жыйынтыктоо

AI ойлоп табуудан качуунун көптөгөн жолдору бар, ал дарбазада терс жактары бар же убакыттын өтүшү менен бир тараптуулуктар пайда болот. Бир ыкма AI иштеп чыгуучулары бул болуп жаткан окуядан кабардар болушун камсыз кылууну камтыйт жана ошентип, маселенин алдын алуу үчүн AIди программалоо үчүн аларды бутуна кармап туруу. Дагы бир жол - бул AI өзүн-өзү этикага жатпаган жүрүм-турумдарга көзөмөлгө алуу (менин талкууну караңыз бул жерде шилтеме) жана/же башка AI тутумдарын потенциалдуу этикага туура келбеген жүрүм-турумдарды көзөмөлдөгөн дагы бир AI бөлүгүнө ээ болуу (мен бул жерде карадым бул жерде шилтеме).

Кыскача айтканда, биз адамдарда терс көз караштар болушу мүмкүн экенин жана кандайдыр бир жол менен алардын чектөөлөрүн билиши керек экенин түшүнүшүбүз керек. Ошо сыяктуу эле, AI да терс көрүнүштөргө ээ болушу мүмкүн жана кандайдыр бир жол менен биз алардын чектөөлөрүн билишибиз керек.

AI этикасын ынтызарлык менен кабыл алгандар үчүн, мен азыр бардыгы билиши керек болгон дагы бир белгилүү сап менен аяктагым келет. Тактап айтканда, Этикалык AIнын маанилүүлүгүн колдонууну жана бөлүшүүнү улантыңыз. Муну менен мен: "Алга, менин күнүмдү өткөр" деп уялбай айтам.