AI этикасынын коңгуроо коңгуроолору массалык глобалдык масштабдагы AI багыттарынын жакындап келе жаткан спектри жөнүндө, өзгөчө жакындап келе жаткан толугу менен автономдуу системалар аркылуу күйүүчү

Платон жакшы чечим сандарга эмес, билимге негизделет деп айткан.

Бул терең түшүнүк бүгүнкү Жасалма интеллект (AI) жөнүндө укмуштуудай кыраакы көрүнөт.

Көрдүңүзбү, азыркы учурда AI кандайдыр бир жол менен акылга жеткен жана адамдын билимин жана ой жүгүртүүсүн камтыган деп жаркыраган баш макалаларга карабастан, бул ашыкча AI гиперболасы тымызын алдын алуу экенин унутпаңыз, анткени биз бүгүнкү күндө алгоритм боюнча чечим кабыл алууда (ADM) дагы эле сандарды кыйратууга таянабыз. ) AI системалары тарабынан кабыл алынган. Атүгүл мактанган Machine Learning (ML) жана Deep Learning (DL) эсептөө үлгүлөрүн дал келүүдөн турат, бул сандар дагы эле ML/DLди жогорку деңгээлде колдонуунун өзөгүн түзөт.

AI акылга жетүү мүмкүнбү же жокпу билбейбиз. Болушу мүмкүн, болбошу мүмкүн. Бул кантип пайда болушу мүмкүн экенин эч ким так айта албайт. Кээ бирөөлөр биз акыл-эстүүлүктүн түрү өзүнөн өзү пайда боло тургандай кылып эсептөөчү AI аракеттерибизди акырындык менен жакшыртабыз деп ишенишет. Башкалары AI кандайдыр бир эсептөөчү суперновага кирип, сезимге өзүнөн өзү жетиши мүмкүн деп ойлошот (адатта өзгөчөлүк деп аталат). AI келечеги жөнүндө бул теориялар жөнүндө көбүрөөк маалымат алуу үчүн, менин камтууумду караңыз бул жерде шилтеме.

Андыктан, келгиле, өзүбүздү шылдыңдап, азыркы AI адамдардай ойлоно алат деп жалган ишенбейли. Менин оюмча, ошондо Платондун акыл-эстүү интеллектке эмес, эсептөөчү AIнын негизинде жакшы чечимдерди кабыл ала алабызбы деген суроосу биринчи планга чыгат. Күнүмдүк AI системалары аркылуу бизде жакшы чечимдер кабыл алынышы мүмкүн деп ырастайм деп таң калышыңыз мүмкүн.

Бул монетанын экинчи жагы - бизде жаман чечимдерди кабыл алган күнүмдүк AI системалары да болушу мүмкүн. Чириген чечимдер. Чечимдердин туура эмес көз караштары жана адилетсиздиги. AIнын акыркы доору башталганда, азыр кээ бирөөлөр деп атаган нерсеге энтузиазмдын чоң жарылуу болгонун билесиз. AI For Good. Тилекке каршы, ошол шаркыратма толкундан кийин биз күбө боло баштадык AI For Bad. Мисалы, AI негизиндеги жүздү таануунун ар кандай системалары расалык көз караштарды жана гендердик көз караштарды камтыганы аныкталган, алар жөнүндө мен талкууладым. бул жерде шилтеме.

каршы күрөшүү аракеттери AI For Bad активдүү жүрүп жатат. Кыйкырыктан тышкары укуктук туура эмес иш-аракеттерди ооздуктоого умтулуу, ошондой эле AIнын жамандыгын оңдоо үчүн AI этикасын кабыл алууга олуттуу түрткү бар. Биз AIны өнүктүрүү жана жайылтуу үчүн негизги этикалык AI принциптерин кабыл алып, бекитишибиз керек деген түшүнүк бар. AI For Bad жана ошол эле учурда артыкчылыктууларды жарыялоо жана алдыга жылдыруу AI For Good.

Менин AI этикасы жана этикалык AI жөнүндө кеңири камтууну төмөнкү жерден тапса болот бул шилтемени бул жерде жана бул шилтемени бул жерде, Бир нечесин гана атаңыз.

Бул жерде талкуулоо үчүн, мен AI жөнүндө өзгөчө тынчсыздандырган аспектиге токтолгум келет, бул AI Этика аренасындагылар туура нааразы болуп, туура маалымдуулукту жогорулатууга аракет кылышат. Көңүл бурган жана тынчсыздандырган нерсе чындыгында абдан жөнөкөй.

Мына, ал бул жерде: AI коркунучтуу глобалдык масштабда AI-кеңештөөлөрдү жайылтуу үчүн реалдуу потенциалга ээ.

Мен "масштабда" деп айтканда, бул дүйнө жүзү боюнча масштабдуу масштабды билдирет. Чоң масштабдуу. Масштабдан чыгып кеткен шкала.

AI-кеңештөөлөрүнүн масштабы кандай болоруна киришерден мурун, келгиле, баарыбыз AI кантип ашыкча калпыстыктарды жана теңсиздикти камтый аларын билели. Дагы бир жолу эсиңизде болсун, бул сезимтал түр эмес. Мунун баары эсептөөчү калибр.

Сиз AI кандайча адамдар жасаган терс көз караштарды жана адилетсиздиктерди өзүнө сиңире алаарына таң калышыңыз мүмкүн. Биз жасалма интеллектти толугу менен нейтралдуу, калыс, жөн гана адамдарда болушу мүмкүн болгон эмоционалдык өзгөрүү жана жаман ой жүгүртүүсү жок машина деп ойлойбуз. Интеллектуалдык интеллекттин бир жактуулугуна жана теңсиздигине кабылуусунун эң кеңири таралган каражаттарынын бири Machine Learning жана Deep Learningди колдонууда, жарым-жартылай адамдар кандай чечим кабыл алып жаткандыгы жөнүндө чогултулган маалыматтарга таянуунун натыйжасында болот.

Мага кененирээк токтолууга уруксат бериңиз.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, сиз бул кайда бара жатканын биле аласыз. Эгерде чечимдерди кабыл алган адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. AI тарабынан жасалган моделдөөнүн жалпы акыл-эстин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. ML/DLдеги сырдуу математика азыр жашырылган калпыстыктарды жоюуну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары потенциалдуу көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келген моделдердин ичинде калпыстыктар сакталат деген чоң мүмкүнчүлүк бар.

Сиз кандайдыр бир атактуу же атагы чыккан таштандыны таштандыдан чыгаруу деген макалды колдонсоңуз болот. Эң негизгиси, бул AIнын ичине кирип кеткен көзкараштар катары тымызын түрдө пайда болгон бир тараптуулукка көбүрөөк окшош. Алгоритмде чечим кабыл алуу же AI ADM аксиоматикалык түрдө теңсиздикке толуп калат.

жакшы эмес.

Бул масштабдуу болгондо бизди AI-кеңештөө маселесине алып келет.

Биринчиден, келгиле, адамдык көз караштар адилетсиздикти кантип жаратышы мүмкүн экенин карап көрөлү. Ипотекалык кредиттерди берген компания ипотекалык насыя агентин жалдоону чечет. Агент үй насыясын алууну каалаган керектөөчүлөрдүн суроо-талаптарын карап чыгышы керек. Өтүнмөнү баалагандан кийин, агент насыя берүү же кредиттен баш тартуу жөнүндө чечим чыгарат. Жөнөкөй.

Талкуу үчүн, адамдык насыя агенти күнүнө 8 насыяны талдай алат деп элестетип көрөлү, карап чыгууга бир саатка жакын убакыт кетет. Беш күндүк иш жумасында агент 40ка жакын насыяны карап чыгат. Жылдык негизде, агент, адатта, 2,000ге жакын насыяны карап чыгат, бир аз берип же алып турат.

Компания насыяны карап чыгуу көлөмүн көбөйтүүнү каалайт, ошентип фирма 100 кошумча насыя агенттерин жалдайт. Келгиле, алардын бардыгы бирдей өндүрүмдүүлүккө ээ жана бул биз азыр жылына 200,000 2,000ге жакын кредитти (агентке жылына XNUMX XNUMX кредитти карап чыгуу курсу менен) чече алабыз дегенди билдирет деп коёлу. Кредиттик арыздарды кароону чындап эле тездеттик окшойт.

Компания адам агенттери сыяктуу эле насыяны карап чыга турган AI тутумун иштеп чыкканы белгилүү болду. AI булуттагы компьютер серверлеринде иштейт. Булут инфраструктурасы аркылуу компания керек болгон кредиттик кароолордун каалаган көлөмүн канааттандыруу үчүн көбүрөөк эсептөө күчүн дароо кошо алат.

Учурдагы AI конфигурациясы менен алар саатына 1,000 насыяны карап чыга алышат. Бул 24×7 да болушу мүмкүн. AI үчүн эс алуу убактысынын кереги жок. Түшкү тыныгуулар жок. AI күнү-түнү ашыкча иштөө жөнүндө кыйкырбастан иштейт. Мындай болжолдуу темпте AI жылына 9 миллионго жакын насыя арызын иштеп чыга алат деп айтабыз.

Көңүл буруңуз, биз жылына 100 насыя бере турган 200,000 адам агентинен AI тутуму аркылуу жылына 9 миллион карап чыгууга бир нече жолу секирип өттүк. Биз кредиттик өтүнүчүбүздү кароону кескин түрдө кеңейттик. Буга эч кандай шек жок.

Мүмкүн, сизди отургучуңуздан кулап кете турган соккуга даярданыңыз.

Биздин кээ бир адам агенттери кредиттик чечимдерди терс көз караштардын негизинде кабыл алып жатышат деп ойлойлу. Балким, кээ бирөөлөр насыя алууда негизги ролду расалык факторлорду берип жаткандыр. Балким, кээ бирөөлөр жынысын колдонуп жатышат. Башкалар жаш куракты колдонушат. Жана башка.

Жыл сайын 200,000 10 кредитти карап чыгуунун канчасы терс көз караштардын жана теңсиздиктердин туура эмес көз карашы астында жасалып жатат? Балким, 20,000%, бул 50 100,000ге жакын насыя сурамдарын түзөт. Андан да жаманы, бул кредиттик суроо-талаптардын XNUMX% түзөт дейли, бул учурда XNUMX XNUMX жылдык кредиттик чечимдер туура эмес чечим кабыл алынат.

Бул жаман. Бирок биз дагы коркунучтуу мүмкүнчүлүктү карап чыга элекпиз.

AIнын расасы, жынысы, жашы жана башка ушул сыяктуу факторлордон турган жашыруун бир жактуулугу бар дейли. Жылдык кредиттик анализдердин 10% бул жагымсыздыкка дуушар болсо, бизде 900,000 100 насыя сурамдары туура эмес каралып жатат. Бул, биринчи кезекте, көлөм аспектилерине байланыштуу, адам агенттери жасай алгандан бир топ көп. Ошол 200,000 агент, эгерде бардыгы тең адилетсиз текшерүү жүргүзсө, муну эң көп дегенде 9,000,000 жылдык кредиттик кароодо жасай алмак. AI XNUMX XNUMX XNUMX жылдык кароонун бир топ масштабында да ушундай кыла алат.

Ий!

Бул, чынында эле, зор масштабдагы AI-кеңейтүү.

AI тутумунун ичине жагымсыз көз караштар камтылганда, пайдалуу көрүнгөн масштабдоо азыр башына айланып, укмуштуудай алдамчы (жана тынчсыздандырган) масштабдуу натыйжага айланат. Бир жагынан алганда, AI үй насыясын сурап жаткан көбүрөөк адамдарды иштетүү үчүн пайдалуу. Сыртынан караганда, бул укмуштай көрүнөт AI For Good. Адамдардын керектүү насыяларды алуу мүмкүнчүлүгүн кеңейтүү үчүн биз өзүбүздү аркалашыбыз керек. Ошол эле учурда, эгерде AI кынтыксыз көз караштарга ээ болсо, масштабдоо абдан чириген натыйжага алып келет жана биз кайгыга батып калганыбызды көрөбүз. AI For Bad, чынында эле массалык масштабда.

Макал эки миздүү кылыч.

AI каалаган кызматтарды жана өнүмдөрдү издегендер үчүн чечим кабыл алуу мүмкүнчүлүгүн түп тамырынан бери жогорулата алат. Мындан ары адам тарабынан чектелген эмгек тардыгы жок. Мыкты! Кылычтын башка жагы, эгерде AI жашыруун теңсиздик сыяктуу жамандыкты камтыса, ошол эле масштабдуу масштабда бул жагымсыз жүрүм-турумду ойго келбеген масштабда жайылтат. Кыжырданган, туура эмес, уят жана биз коомдун мындай ыплас туңгуюкка түшүп кетишине жол бере албайбыз.

AI этикасынын маанилүүлүгүн эмне үчүн жокко чыгарышыбыз керек деп таң калган ар бир адам, AI масштабдоо көрүнүшү этикалык AI жүргүзүү үчүн маанилүү себеп экенин түшүнүшү керек. Келгиле, AI жасаган, талаа менен алектенген же колдонгон ар бир адам үчүн эмне маанилүү мааниге ээ болушу керектигин көрсөтүү үчүн кээ бир негизги этикалык AI осуяттарын кыскача карап чыгалы.

Мисалы, Ватикан тарабынан айтылгандай Рим AI этикасына чакырат жана мен тереңирээк карадым бул жерде шилтеме, булар алардын аныкталган алты негизги AI этикасынын принциптери:

• ачыктык: Негизи, AI системалары түшүнүктүү болушу керек
• Кошуу: Ар бир адам пайда көрүшү үчүн жана бардык инсандарга өзүн көрсөтүү жана өнүктүрүү үчүн мүмкүн болгон эң жакшы шарттарды сунуштоо үчүн бардык адамдардын муктаждыктары эске алынышы керек.
• жоопкерчилиги: AI колдонууну иштеп чыккан жана жайылткандар жоопкерчилик жана айкындуулук менен жүрүшү керек
• Калыс: Адилеттүүлүктү жана адамдык ар-намысты коргоп, бир жактуулукту жаратпаңыз же аракет кылбаңыз
• ишенимдүүлүк: AI системалары ишенимдүү иштей алышы керек
• Коопсуздук жана купуялык: AI системалары коопсуз иштеши керек жана колдонуучулардын купуялыгын сыйлашы керек.

АКШнын Коргоо министрлигинин (DoD) билдирүүсүндө Жасалма интеллектти колдонуунун этикалык принциптери жана мен тереңирээк карадым бул жерде шилтеме, булар алардын алты негизги AI этика принциптери:

• Жооптуу: DoD кызматкерлери AI мүмкүнчүлүктөрүн иштеп чыгуу, жайылтуу жана колдонуу үчүн жоопкерчиликтүү бойдон калууда, тиешелүү деңгээлде ой жүгүртүү жана кам көрүшөт.
• Адилеттүү: Бөлүм AI мүмкүнчүлүктөрүндө күтүлбөгөн терс көрүнүштөрдү азайтуу үчүн атайылап чараларды көрөт.
• Изделүүчү: Бөлүмдүн AI мүмкүнчүлүктөрү тиешелүү персонал AI мүмкүнчүлүктөрүнө колдонулуучу технологияларды, иштеп чыгуу процесстерин жана оперативдүү методдорун, анын ичинде ачык-айкын жана аудитордук методологияларды, маалымат булактарын, долбоорлоо процедурасын жана документтерин тийиштүү түшүнүүгө ээ болушу үчүн иштелип чыгат жана жайылтылат.
• ишенимдүү: Бөлүмдүн AI мүмкүнчүлүктөрү ачык, так аныкталган колдонууга ээ болот жана мындай мүмкүнчүлүктөрдүн коопсуздугу, коопсуздугу жана натыйжалуулугу алардын бүткүл жашоо циклдеринде аныкталган колдонуунун алкагында сыноодон жана кепилдиктен өтүүгө тийиш.
• Башкарылуучу: Бөлүм күтүлбөгөн кесепеттерди аныктоо жана болтурбоо, ошондой эле күтүлбөгөн жүрүм-турумду көрсөткөн орнотулган системаларды өчүрүү же өчүрүү жөндөмдүүлүгүнө ээ болуу менен, өз милдеттерин аткаруу үчүн AI мүмкүнчүлүктөрүн иштеп чыгат жана инженериялайт.

Мен ошондой эле AI этикасынын принциптеринин ар кандай жамааттык анализдерин талкууладым, анын ичинде көптөгөн улуттук жана эл аралык AI этикасынын жоболорунун маңызын изилдеген жана конденсациялаган изилдөөчүлөр тарабынан иштелип чыккан комплексти камтыган “The Global Landscape of AI Ethics Guidelines” (жарыяланган. ичинде жаратылыш), жана менин камтуум изилдейт бул жерде шилтеме, бул негизги таш тизмесине алып келди:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Түздөн-түз божомолдогонуңуздай, бул принциптердин негизинде жаткан өзгөчөлүктөрдү аныктоого аракет кылуу өтө кыйын болушу мүмкүн. Андан тышкары, бул кеңири принциптерди AI тутумдарын жасоодо колдонуу үчүн толугу менен сезилерлик жана деталдуу нерсеге айландыруу аракети да катаал жаңгак болуп саналат. Жалпысынан AI этикасынын осуяттары эмне экендиги жана аларды жалпысынан кантип сактоо керектиги жөнүндө кол булгалоо оңой, ал эми AI коддоосу жолго жооп берген чыныгы резина болушу керек болгон бир топ татаал жагдай.

AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, акырында AI тутумдарын иштеткен жана тейлеген адамдар да колдонушу керек. AI өнүктүрүүнүн жана колдонуунун бүткүл циклинин бардык кызыкдар тараптары Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлор гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманууга тийиш. Сураныч, AI ойлоп табуу жана иштетүү үчүн айыл керек экенин эске алыңыз. Бул үчүн бүткүл айыл AI этикасын кармап турушу керек.

AI-Steeped Biases Scaling кантип иштейт

Эми мен AI бир беткейликти камтышы мүмкүн деген үстөлгө түшкөндөн кийин, биз AI масштабдоосунун мынчалык интрузивдүү болушунун кээ бир себептерин карап чыгууга даярбыз.

Он негизги себептердин бул негизги тизмесин карап көрөлү:

1. Оңой кайталанат
2. Масштабдоо үчүн минималдуу чыгым
3. Жийиркеничтүү ырааттуу
4. Өзүн-өзү чагылдыруунун жоктугу
5. Сокур баш ийүү
6. Колун тартпайт
7. Алуучу бейкапар
8. Провокацияга түртпөйт
9. Калыстыктын жалган аурасы
10. Токко чыгаруу кыйын

Мен ошол маанилүү пункттардын ар бирин кыскача карап чыгам.

Адамдын эмгегин көбөйтүүгө аракет кылганыңызда, муну жасоо абдан татаал болот. Элди таап, жумушка алыш керек. Сиз аларды жумушка үйрөтүшүңүз керек. Аларды төлөп, адамдын каалоолорун жана муктаждыктарын эске алуу керек. Муну AI системасы менен салыштырыңыз. Сиз аны иштеп чыгып, колдонууга киргизесиз. AIны үзгүлтүксүз тейлөөдөн башка, сиз отуруп, аны чексиз иштетүүгө уруксат бере аласыз.

Бул AI оңой кайталанат дегенди билдирет. Тапшырма жана көлөм талап кылынышы мүмкүн болгондуктан, сиз көбүрөөк эсептөө күчүн кошсоңуз болот (сиз жалдап же жумуштан кетирбейсиз). Глобалдык колдонуу бир баскычты басуу менен ишке ашат жана Интернеттин бүткүл дүйнөлүк жеткиликтүүлүгү менен жетишилет. Масштабды көбөйтүү - бул адам эмгеги менен салыштырганда минималдуу чыгым.

Адамдын эмгеги ырааттуу эмес. Чоң командаларыңыз болгондо, сизде чындап шоколад кутусу болот, андыктан колуңузда эмне бар экенин эч качан билбейсиз. AI системасы абдан ырааттуу болушу мүмкүн. Ал бир эле иш-аракеттерди кайра-кайра кайталайт, ар бир жолу акыркысы менен бирдей.

Адатта, биз AI ырааттуулугун жактырабыз. Эгерде адамдар бир тараптуулукка жакын болсо, бизде ар дайым адам эмгегинин кандайдыр бир бөлүгү туура эмес болуп калат. AI, эгер курууда жана эсептөөдө калыс болсо, алда канча ырааттуу болмок. Көйгөй, эгерде AIда жашыруун көз караштар болсо, ырааттуулук азыр абдан жийиркеничтүү. Мүмкүнчүлүктөр бир жактуу жүрүм-турум ырааттуу түрдө, кайра-кайра аткарыла берет.

Адамдар өзүн-өзү чагылдыруу сезимине ээ болот деп үмүттөнүшөт жана балким, бир жактуу чечимдерди кабыл алып калышат. Мен баары ушундай болот деп айталбайм. Өзүн кармагандар сөзсүз түрдө каталарын оңдойт деп да айталбайм. Кандай болгон күндө да, жок дегенде, кээ бир адамдар кээде өздөрүн оңдоп коюшат.

AI эсептөөчү өзүн-өзү чагылдыруунун кандайдыр бир формасына ээ болушу күмөн. Бул AI эмне кылып жатканын жасай берет дегенди билдирет. AI өзүнүн капиталды бузуп жатканын аныктоо мүмкүнчүлүгү нөлгө барабар көрүнөт. Айтор, мен муну менен күрөшүү үчүн кээ бир аракеттерди сүрөттөп бердим, мисалы AI ичинде AI этикасынын компоненттерин куруу (караңыз). бул жерде шилтеме) жана этикага туура келбеген AI иш-аракеттерин аныктоо үчүн башка AIларды көзөмөлдөгөн AI ойлоп табуу (караңыз бул жерде шилтеме).

Өзүн-өзү чагылдыруунун эч кандай түрү жок болгондуктан, AI дагы эмнени буйрук кылбасын, сокур баш ийүүгө ээ болушу мүмкүн. Адамдар мынчалык тил алчаак болбошу мүмкүн. Кээ бир тапшырманы аткарып жаткан адамдар, балким, алар адилетсиздиктин аймагына жетеленип жатабы деп күмөн санашат. Алар этикага туура келбеген буйруктарды четке кагышат же ышкыбоздун жолуна түшүшөт (менин камтууну караңыз: бул шилтемени бул жерде). Күнүмдүк заманбап AI кандайдыр бир түрдө анын программалоосуна шек келтирет деп күтпөңүз.

Кийинки AI колдонгондорго кайрылабыз. Эгерде сиз үй насыясын издеп жаткан болсоңуз жана адам менен сүйлөшсөңүз, анда ал адам сизге адилеттүү силкинүү берип жатабы деп сергек болушуңуз мүмкүн. AI системасын колдонууда, көпчүлүк адамдар анчалык шектүү көрүнөт. Алар көбүнчө AI адилеттүү деп ойлошот жана андыктан тез эле ачууланбайт. AI адамдарды "бул жөн эле машина" транска түшүрөт окшойт. Анын үстүнө, AIга каршы аракет кылуу кыйын болушу мүмкүн. Тескерисинче, адам агентинин сизге кандай мамиле кылганына нааразычылык билдирүү бир топ жеңил жана жалпы кабыл алынган жана мүмкүн болушунча кабыл алынган.

Баардыгы айтылгандай, бир беткейликке байланган AI адамдардын бир жактуулугун жоготпойт, тактап айтканда, AI бул көз караштарды чоң масштабда массалык түрдө жайылта алат, муну оңой эле колго түшүрбөй же керектөөчүлөрсүз жасай алат. тынчсыздандырган эмне болуп жатканын түшүнүү.

Бул талкуунун ушул этабында, сиз масштабда AI-кеңештөөлөрдүн табышмактарын көрсөтө турган кошумча мисалдарды каалайсыз деп ишенем.

Сураганыңызга кубанычтамын.

Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү аймактардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизиндеги чыныгы өзүн-өзү айдай турган унаалардын пайда болушу AIнын масштабдуу багыттары жөнүндө эч нерсени жаркыратабы жана эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Түшүндүрмө катары айтканда, чыныгы өзүн өзү башкаруучу автоунаалар - бул КТ унааны толугу менен өз алдынча айдайт жана айдоо учурунда адам жардамы болбойт.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлдеги чыныгы өзүн-өзү айдаган унаа азырынча жок, ага жетүү мүмкүнбү же ага канча убакыт кетет дагы билбейм.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзүн-өзү айдай турган унаалар жана AI багыттары масштабда

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Мен ишенем, бул мен айткым келген нерселердин негизинде жетиштүү эскертүүлөрдү берет.

Биз азыр өзүн-өзү башкаруучу унааларга жана кеңири масштабда жарыяланган AI-кеңештүү багыттарды изилдөөнү талап кылган этикалык AI мүмкүнчүлүктөрүнө терең сүңгүп чыгууга даярбыз.

Келгиле, жөнөкөй мисалды колдонолу. AI негизиндеги өзүн-өзү башкара турган унаа сиздин коңшулук көчөлөрүңүздө жүрүп жатат жана коопсуз айдап баратат. Башында сиз өзүн-өзү башкара турган унааны көргөн сайын өзгөчө көңүл бургансыз. Автономдуу унаа видеокамераларды, радар блокторун, LIDAR түзүлүштөрүн жана башка ушул сыяктууларды камтыган электрондук сенсорлордун стойкасы менен өзгөчөлөндү. Коомчулуктун айланасында бир нече жума бою өзүн-өзү башкара турган унаа круиздегенден кийин, азыр аны араң байкайсыз. Сиздин оюңузча, бул ансыз деле бош эмес коомдук жолдордогу башка унаа.

Өзү башкаруучу унааларды көрүү менен таанышуу мүмкүн эмес же акылга сыйбас деп ойлобоңуз үчүн, мен өзүм айдаган унааларды сынап көрүүнүн алкагындагы аймактар ​​бара-бара карагайлуу унааларды көрүүгө кантип көнүп калгандыгы жөнүндө көп жаздым. менин анализимди караңыз бул шилтемени бул жерде. Акыры, жергиликтүү тургундардын көбү оозун ача тиктеп, тажап бараткан ызы-чуу сезимине өтүштү.

Кыязы, азыр алардын автономдуу унааларды байкап калышынын негизги себеби - кыжырдануу жана ачуулануу фактору. Китепте жазылган AI айдоо тутумдары унаалар бардык ылдамдык чектөөлөрүнө жана жол эрежелерине баш ийип жатканын текшерет. Кадимки адам башкарган унааларындагы тынымсыз айдоочулар үчүн, сиз мыйзамды катуу сактаган AI негизиндеги өзүн-өзү айдаган унаалардын артында тыгылып калганда кыжырданасыз.

Бул туура же туура эмес, баарыбыз көнүшүбүз керек болгон нерсе.

Биздин жомокко кайтуу.

Көрсө, AI негизиндеги өзүн-өзү башкаруучу унаалар, башкача айтканда, зыянсыз жана жалпы кабыл алынган эки түшүнүксүз тынчсыздануулар пайда боло баштайт:

а. AI роумингде жүргөн жерде, өзүн-өзү айдаган унаалар аттракциондорду чогултуу үчүн катуу тынчсыздануу жаратты.

б. AI жол укугу жок күтүп турган жөө жүргүнчүлөргө кандай мамиле кылып жатканы актуалдуу маселе катары көтөрүлдү.

Алгач, AI бүткүл шаар боюнча өзүн-өзү башкарган унааларды кыдырып жүргөн. Өзү башкаруучу унаага түшүүнү каалагандардын бардыгы тең бирдей мүмкүнчүлүккө ээ болгон. Акырындык менен, AI, биринчи кезекте, шаардын бир бөлүгүндө роумингде өзүн-өзү башкара турган унааларды кармай баштады. Бул бөлүм көбүрөөк акча табуучу болгон жана AI системасы коомчулукта колдонуунун бир бөлүгү катары кирешени көбөйтүүгө аракет кылып программаланган.

Шаардын жакыр аймактарындагы жамааттын мүчөлөрү өзүн-өзү башкарган унаадан азыраак жүрүшчү. Себеби, өзүн-өзү башкарган унаалар алысыраак жана жергиликтүү аймактын кирешеси жогору болгон бөлүгүндө роумингде жүргөн. Шаардын алыскы бөлүгүнөн суроо-талап түшкөндө, шаардын "урматтуу" бөлүгүндө болушу мүмкүн болгон жакыныраак жерден келген суроо-талап жогорураак болмок. Акыр-аягы, шаардын бай бөлүгүнөн башка жерде өзүн-өзү башкаруучу машинаны алуу дээрлик мүмкүн эмес болчу, бул азыр ресурстарга муктаж болгон аймактарда жашагандар үчүн.

Сиз AI прокси дискриминациясынын бир түрүнө (ошондой эле көбүнчө кыйыр басмырлоо деп аталат) конду деп ырастасаңыз болот. AI ошол жакыр райондордон качуу үчүн программаланган эмес. Анын ордуна, ал ML/DL колдонуу аркылуу муну "үйрөндү".

Кеп нерсе, ridesharing адам айдоочулары бир эле нерсени жасаганы үчүн белгилүү болгон, бирок сөзсүз түрдө акча табуу бурчуна байланыштуу эмес. Шаардын айрым бөлүктөрүндө чабандестерди чогултууга терс көз карашта болгон кээ бир айдоочулар болгон. Бул бир аз белгилүү болгон көрүнүш жана шаар муну кылып жаткан айдоочуларды кармоо үчүн мониторинг ыкмасын киргизген. Адам айдоочулар жагымсыз тандоо практикасын жүргүзүү үчүн кыйынчылыкка дуушар болушу мүмкүн.

AI эч качан ошол эле кумга түшпөйт деп болжолдонгон. AI негизинде өзүн-өзү башкара турган унаалар кайда баратканын көзөмөлдөө үчүн атайын мониторинг түзүлгөн эмес. Коомчулуктун өкүлдөрү нааразы боло баштагандан кийин гана шаар жетекчилери эмне болуп жатканын түшүнүштү. Автономдуу унаалар жана өзүн-өзү башкаруучу унаалар сунуштай турган жалпы шаардык маселелердин ушул түрлөрү боюнча көбүрөөк маалымат алуу үчүн, менин камтууумду караңыз бул шилтемени бул жерде жана бул темада мен биргелешип жазган Гарвард жетектеген изилдөөнү сүрөттөйт.

AI-негизделген өзүн-өзү башкара турган унаалардын роуминг аспектилеринин бул мисалы, адамдарда терс көз караштарга алып келген жагдайлар болушу мүмкүн экенин, ал үчүн башкаруу орнотулганын жана ошол адам айдоочуларын алмаштыруучу AI кынтыксыз калганын көрсөтүп турат. бекер. Тилекке каршы, AI акырындык менен окшоштуктарга батып, жетиштүү тосмолорду орнотпостон жасай алат.

Бул ошондой эле масштабдуу маселеде AI кынтыксыздыгын көрсөтөт.

Адамдардын айдоочулары жөнүндө айтсак, бизде бул жерде же тигил жерде кандайдыр бир адилетсиздикти колдонгондор болгон болушу мүмкүн. AI айдоо системасы үчүн, адатта, өзүн-өзү башкарган унаалардын бүтүндөй паркы үчүн ушундай бирдиктүү AI болуп саналат. Ошентип, биз шаарда элүү өзүн-өзү башкара турган унаадан (баары бир эле AI код менен иштейт) башталып, бара-бара 500 өзүн-өзү башкара турган унаага чейин көбөйгөн болушу мүмкүн (баары бир эле AI коду менен башкарылат). Ошол беш жүз өзүн-өзү башкара турган унаалардын бардыгы бир эле AI тарабынан башкарылгандыктан, алардын бардыгы тең тиешелүү түрдө AI ичинде камтылган бирдей келип чыккан көз караштарга жана теңсиздиктерге дуушар болушат.

Бул жагынан масштабдоо бизге зыян келтирет.

Экинчи мисал, AI көчөнү кесип өтүүгө укугу жок жөө жүргүнчүлөрдү күтүү үчүн токтоп-токтобоону аныктоону камтыйт.

Сиз, албетте, айдап баратып, көчөнү кесип өтүүнү күтүп жаткан жөө жүргүнчүлөрдү жолуктурдуңуз, бирок алардын өтүүгө укугу жок. Бул сизде токтоп, аларды кесип өтүүгө уруксат берүү боюнча чечимиңиз бар экенин билдирген. Сиз аларды кесип өтпөстөн уланта аласыз жана дагы эле мыйзамдуу айдоо эрежелеринин чегинде боло аласыз.

Мындай жөө жүргүнчүлөр үчүн айдоочулардын токтоп же токтобосун кантип чечкени боюнча изилдөөлөр кээде адам айдоочулар туура эмес көз караштардын негизинде тандоо жасаарын көрсөттү. Адамдын айдоочусу жөө жүргүнчүгө көз салып, токтобоону чечиши мүмкүн, эгер жөө жүргүнчүнүн өңү башка болсо, мисалы, расасына же жынысына жараша токтоп калмак. Мен муну текшердим бул жерде шилтеме.

Элестеткиле, AI негизиндеги өзүн-өзү башкара турган унаалар жолдо жүрүү укугу жок жөө жүргүнчүлөр үчүн токтойбу же токтобойбу деген суроону чечүүгө программаланган. AI иштеп чыгуучулары бул тапшырманы кантип программалоону чечишти. Алар шаардын бардык тегерегине орнотулган шаардын видеокамераларынан маалыматтарды чогултушкан. Маалыматтар жол эрежеси жок жөө жүргүнчүлөр үчүн токтогон адам айдоочуларды жана токтобогон адам айдоочуларды көрсөтөт. Мунун баары чоң маалымат топтомуна чогултулган.

Machine Learning жана Deep Learningди колдонуу менен маалыматтар эсептөө жолу менен моделделет. AI айдоо системасы качан токтоп же токтобоону чечиш үчүн ушул моделди колдонот. Жалпысынан алганда, жергиликтүү салт эмнеден турбасын, AI өзүн-өзү айдаган унааны ушундай багыттайт деген идея.

Шаар жетекчилерин жана тургундарын таң калтыргандай, AI жөө жүргүнчүнүн сырткы көрүнүшүнө, анын ичинде расасына жана жынысына жараша токтоп же токтобоону чечкен. Өзүн-өзү башкара турган унаанын сенсорлору күтүп жаткан жөө жүргүнчүнү сканерлеп, бул маалыматты ML/DL моделине киргизип, модель AIга токтоп же улантууну чыгарат. Өкүнүчтүүсү, шаарда буга чейин бул жагынан көптөгөн айдоочулук көз караштар болгон жана AI азыр аны туурап жаткан.

Бул мисал AI системасы адамдардын мурунтан эле бар болгон терс көз караштарын кайталашы мүмкүн экенин көрсөтүп турат. Мындан тышкары, ал масштабдуу кылат. Кандайдыр бир адам айдоочулар кээде тандоонун бул жагымсыз түрүн жасоого үйрөтүлгөн болушу мүмкүн же балким, муну жеке өзү тандап алгандыр, бирок адам айдоочуларынын көпчүлүгү муну массалык түрдө жасашпайт.

Катуу айырмаланып, өзүн-өзү айдаган унааларды айдоо үчүн колдонулуп жаткан AI айдоо системасы жийиркеничтүү түрдө ырааттуу жана ишенимдүү түрдө келип чыккан калыстыкты аткарышы мүмкүн.

жыйынтыктоо

Жагымсыз көз караштарга ээ болгон же убакыттын өтүшү менен бир тараптуулуктарды алып салган AI ойлоп табуудан качуунун көптөгөн жолдору бар. Мүмкүн болушунча, идея жогорку ылдамдыкка өтүүдөн мурун көйгөйлөрдү чечип, масштабга өтүү. Мындайча айтканда, бир тараптуулук эшиктен чыкпайт деп үмүттөнөбүз.

AIда тигил же бул жактуулук пайда болот деп ойлойбуз. AI менен масштабдуу масштабда орнотулгандан кийин, сиз көп жарыяланган техникалык "өрт жана унут" деген түшүнүктөрдүн бирин жасай албайсыз. Сиз AI эмне кылып жатканын кылдаттык менен байкап, оңдоону талап кылган ар кандай терс көрүнүштөрдү табууга аракет кылышыңыз керек.

Мурда айтылгандай, бир ыкма AI иштеп чыгуучулары AI этикасын билишин камсыз кылууну камтыйт жана ошентип, аларды бул маселелерди болтурбоо үчүн AIди программалоого түрткү берет. Дагы бир жол – бул AI өзүн этикага туура келбеген жүрүм-турумдарга өзүн өзү көзөмөлдөп туруудан жана/же башка AI тутумдарына потенциалдуу этикага туура келбеген жүрүм-турумдарды көзөмөлдөгөн башка AI бөлүгүнө ээ болуу. Мен жазгандарымда көптөгөн башка потенциалдуу чечимдерди камтыдым.

Азырынча акыркы ой. Бул талкууну Платондун цитатасынан баштагандан кийин, дискурсту Платондун дагы бир кыраакы сөзү менен бүтүрүү ылайыктуу болушу мүмкүн.

Платон жакшы нерсени кайталоонун зыяны жок деп айткан.

AI менен масштабга өтүүнүн жеңилдиги, албетте, AI болгондо, мындай оптималдуу умтулууга жетүү үчүн жарактуу каражат болуп саналат. AI For Good ар түрдүүлүк. Биз жакшы нерсени кайталагандан ырахат алабыз. AI болгондо AI For Bad жана терс көз караштарга жана адилетсиздиктерге толгон болсок, биз Платондун сөздөрүнө таянып, жаман нерсени кайталоонун көп зыяны бар деп айта алабыз.

Келгиле, Платондун акылман сөздөрүн кунт коюп угалы жана ошого жараша AI-ды иштеп чыгалы.