AI этикасы ачууланган адамдарды зордук-зомбулук менен талкалап же катаал мамиле кылганына карабастан, AI толугу менен автономдуу AI тутумдарына каршы чыккан ачууланган адамдар сыяктуу коркунучтуу адеп-ахлаксызбы?

Ошон үчүн биз жакшы нерселерге ээ боло албайбыз.

Сиз бул абдан популярдуу сөз айкашын уккан же көргөн жана ал эмнени билдирерин дароо билесиз. Ишенсеңер же ишенбейсиңерби, акылман акылмандыктын акылдуу бөлүгү жок дегенде 1905-жылы ушул сыяктуу сөз айкашында пайда болгон. Гуманитардык сереп Элиза Блвен тарабынан. Жалпысынан алганда, түшүнүктүн маңызы мына ушунда: кээде биз андай мамилеге татыксыз болуп көрүнгөн объектилерди же экспонаттарды талкалап, сабап, сындырып же таптакыр кыйратып алабыз.

Сиз кээде биз деп айтышыңыз мүмкүн жаман мамиле кылуу буюмдарды жана артефакттарды, атүгүл биз сыйынган же кымбат баалаган нерселер.

Бул кокусунан болушу мүмкүн, мисалы, этиятсыздык жана кымбат баалуу смартфонуңузду комодго түшүрүү (өкүнүчтүүсү, бул смартфондордун жараксыз болуп калышынын эң көп айтылган жолдорунун бири). Башка жагынан алганда, балким, ачууланып, сиз смартфонуңузду бөлмөнүн аркы бетине ыргытууну чечесиз жана ал чоң эмерекке же кочкорлорго түздөн-түз дубалга тийип калат. Мүмкүнчүлүгү дисплей сынып калат жана электрондук ичегилер мындан ары туура иштебей калат.

Бул ачуунун смартфонго эч кандай тиешеси жок болушу мүмкүн. Балким сиз кимдир бирөө менен талашып-тартышып жаткандырсыз жана ачууңузду ошол учурда сиздин колуңузда болгон нерсеге чыгарып алгандырсыз. Смартфон туура эмес убакта туура эмес жерде болгон.

Объект кандайдыр бир жол менен ачуулануу менен байланышкан учурлар бар. Мисалы, сиз абдан маанилүү чалууну күтүп жатасыз жана смартфонуңуз таң калыштуу түрдө иштебей калат. Кандай нааразычылык! Бул каргашалуу смартфон ар дайым эң жаман убакта жарактан чыккандай сезилет, сен өзүң ойлойсуң. Эмесе, смартфон бул акыркы мыйзам бузуу үчүн бөлмөгө ыргытылуу менен төлөйт. Муну ал, сен жакшы смартфон эмессиң.

Ачуулануу ар дайым бир компонент болушу керекпи?

Балким, сиз смартфонуңуздун пайдалуулугунун аягына жетти деп тынчтангандырсыз. Сиз жаңысын алганы жатасыз. Ошентип, учурдагы смартфондун баасы төмөндөп кетти. Сиз, албетте, бир аз эскирген смартфонду алмаштырууга аракет кылсаңыз болот, бирок, балким, анын ордуна бир аз көңүл ачууну жана ал канчалык физикалык басынтууну талап кылаарын билип туруп чечим кабыл аласыз. Ошентип, бир топ ойлонгондон кийин, сиз аппаратты бөлмөгө ыргытасыз жана эмне болуп жатканын байкайсыз. Бул жөн гана физикалык эксперименттин бир түрү, ал смартфондун канчалык жакшы курулганын өлчөөгө мүмкүндүк берет.

Биздин көбүбүз бир нерсеге же артефактка болгон агрессиябызды алып салганда ушундай кылдаттык менен жөнгө салынган логиканы колдонорубуздан күмөнүм бар. Көбүнчө, акт, балким, акыл-эстин башка алкагында жасалат. Бул реакциячыл аракеттердин бирден бир түрү болуп калат. Ошондон кийин кылган ишиңе өкүнүп, эмнеден улам ушундай жарылуу болгонун ойлонушуң мүмкүн.

Жансыз нерсеге карата жасалган мындай катаал иш-аракет мынчалык уятсыз жана туура эместей көрүнгөн аракетти жасаган адам жөнүндө эмнени айтып берет?

Объекттин өзү, балким, атайылап сизди жаманатты кылууга аракет кылбайт. Тостериңиз наныңызды туура тостпогондо, тостер ошол күнү тостуңузду күйгүзүп, эртең мененки тамагыңызды бузат деген ой менен ойгонуп кеткенин элестетүү кыйын. Бул бир аз мүмкүн эмес. Тостер жөн гана механикалык түзүлүш. Ал иштейт же иштебейт. Бирок тостер сиздин каалооңузга каршы иштеп, иштебейм деп, же сизди тезирээк жүктөйүн деп ойлоп жатат деген ой, туура, бул кенен түшүнүк.

Бардык объектилерде карманын же рухтун окшоштугу бар деп эсептегендер бар. Бул теорияда, эгерде сиз мурун тостерге туура кам көрбөгөн болсоңуз, анда тостер өч алууну көздөшү мүмкүн деп болжолдойт. Бул кызыктуу философиялык идея болсо да, мен ошол метафизикалык концептуализацияны өткөрүп жиберем жана объекттер жөн гана объекттер деген күнүмдүк божомол менен калам (түшүндүрүү үчүн, мен башка мүмкүнчүлүк жөнүндө чечимди сунуш кылбайм, жөн гана аны четке кагып жатам. учур).

Карманын же рухтун бул жагы татыктуу болгон, анткени ал адамдын жүрүм-турумуна байланыштуу бир тарапты алып келет. Көрдүңүзбү, биз көбүнчө сезимдүү деп эсептеген нерселерге жакыныраак объекттерге жандуулуктун формасын ыйгаруу азгырылышыбыз мүмкүн.

Он долларлык тостер, бул баребонс аппараты, биз сезимтал аура менен майлай турган нерсе эмес. Кааласаңыз, ошентип койсоңуз болот, бирок бул сунуу. Сиз ошондой эле ар кандай объекттерге, мисалы, отургучка, жарык мамысына, өрт гидрантына ж.б.у.с. сезгичтикти ыйгарып баштасаңыз болот. Эгерде биз сезимтал адамды "эстүү" деп дайындай турган болсок, объект көбүрөөк тубаса мүмкүнчүлүктөргө ээ болушу керек окшойт. - нерсеге жаркыраган сыяктуу.

Сиз Alexa же Siri колдонгондо, аппараттын өзү жөн гана динамик жана микрофон, бирок бул заманбап ыңгайлуулук, албетте, сезимталдуу күчтөрдү ыйгаруу үчүн мыкты талапкер болушу мүмкүн. Сыягы, сиз аспап менен өз ара аракеттенип, сүйлөшүүнү уланта аласыз, бирок, чындыгында, тайгак жана кадимки адам багытталган өз ара аракеттешүүнүн агымы жок. Ошого карабастан, Alexa же Siriге сезимтал ыйгаруу мүмкүнчүлүгүнө тайып кетүүгө уруксат берүүнүн өзгөчө жеңилдиги бар (менин акыркы Alexa окуясы боюнча менин көрсөтмөмдү караңыз, анда ток розеткага тыйын салуу боюнча кеңештер берилет. бул шилтемени бул жерде).

Тостерди Alexa же Siri сыяктуу табигый тилди иштетүү (NLP) менен кооздоп жатабыз дейли. Сиз тостериңиз менен сүйлөшүп, ага каалаган тосттун канча көлөмүн жасагыңыз келгенин айта аласыз. Тостер сиздин сөзүңүзгө жооп берет, анан тост даяр болгондо айтып берет. Бул тостер чындыгында сезгичтик жөндөмгө жакындап баратат деген ишенимибизди оңдогондой көрүнөт.

Аппараттын өзгөчөлүктөрүн адамдык объектилердин мүнөздөмөлөрүнө канчалык жакындатсак, бизди аппаратка сезимтал касиеттерди ыйгаруу жолуна алып барат. Алардын эң айкыны роботтор болмок. Ар бир заманбап басуучу жана сүйлөп жаткан робот биздин ички таасирибизди жаратат, ал аппарат жөн гана механикалык же электрондук контриванс эмес.

Мен сага суроо берейин жана чынчылдык менен жооп берейин.

Мен буга чейин, мен сиз кандайдыр бир жол менен басып, сойлоп, секирип же чуркай турган абдан кооз роботторду көрсөткөн вирустук видеолорду көрдүңүз деп ойлойм. Ошол видеолордун айрымдарында адам жакын жерде турат жана алгач робот аксап калса кармап калууга даяр тургандай көрүнөт. Көпчүлүгүбүз муну кичинекей бала басканды үйрөнүп, башын жерге урганга чейин кармап алганга окшош боорукердик деп ойлойбуз деп ишенем.

Адамдардын роботторду кармаганын чанда гана көрөсүз, анын ордуна роботтун андан ары эмне кыларын көрүү үчүн роботторду уруп жатканын көрөсүз. Кээде узун таяк, балким, хоккей таякчасы же бейсбол таякчасы колдонулат. Адам атайылап жана эч уялбастан роботко сокку урат. Робот ур-токмокко алат, кимдир бирөө талашышы мүмкүн жана биз роботтун реакциясын күтөбүз.

Бул жерде сиздин сурооңуз.

Роботтун катуу сабалганын көргөндө, робот үчүн жаман болуп жатасыңбы?

Көп адамдар эмне. Мындай видеолор биринчи жолу жарыялана баштаганда, миңдеген комментарийлер роботтордун катаал мамилесине ачууланышкан. Робот мындай терс кордукка татыктуу болуу үчүн эмне кылды, - деп жалындуу сурашты. Ошол адамдарды сыртка алып чыгып, өздөрүнө бир нече тепкилеш керек, - дешти айрымдары ачууланып. Ушуну токтоткула жана ушундай видеолордун баарын өчүрүп салгыла.

Он долларлык тостер жөнүндө сиз оңой эле сезе аласыз, бирок ал ошол эле висцералдык жана үрөй учурган тынчсызданууну жаратпашы мүмкүн. Адамдын сезими менен жакыныраак окшош объектилерге адамдын жөндөмдүүлүгүнө эч окшошпогон, толугу менен жансыз объектинин спектрине объект канчалык жакындаса, объектке адамгерчиликтүү адеп-ахлактуулукту ыйгарууну каалоо сезимдерибизди буза тургандай сезилет. .

Келгиле, муну дагы ачалы.

Эгер сизде смартфон болсо жана аны сындыргыңыз келсе жана мунун башка эч кимге зыяны тийбесе, анда биз моралдык жактан мындай аракетке каршылык көрсөтпөйбүз окшойт. Сиз ага ээсиз, аны менен каалаганыңызды кыла аласыз (эгер бул иш башкаларга таасир этпейт).

Албетте, биз муну сиз тараптан акылсыздык деп ойлошубуз мүмкүн жана мунун таасири тийип калышы мүмкүн. Смартфонуңузду жок кылууга даяр болсоңуз, дагы эмне кылсаңыз болот? Балким, кыйратуучу жана маанисиз көрүнгөн иш-аракет сиздин ичиңиздеги бир нерсенин алдын ала эскертүүсү болуп саналат. Мындай ой жүгүртүү менен, смартфонго карата сиздин иш-аракеттериңиз сиздин жана жүрүм-турумуңуздун кандайча чагылдырылышы бизди кызыктырбайт.

Басып бараткан же жөрмөлөп бараткан роботторду чукуп, түртүп жаткан адамдар жөнүндө айтсак, сиз ал адамдар тажрыйбалуу адамдар экенин, алар акы төлөнүүчү же роботторду жалпы жүйөлүү себептер менен башка кесипкөй түрдө уруп-согуп жатканын билгенде жеңилдейсиз. Алар роботтун жана роботтун астындагы AI канчалык деңгээлде бузулуучу окуяларды жеңе аларын көрүүгө аракет кылып жатышат.

Кимдир бирөө роботтун басууга же сойлоого жардам берүү үчүн AI программасын жазганын элестетиңиз. Алар логикалык жактан робот адашып, бир нерсени басып калганда AI канчалык жакшы иштээрин билгиси келет. Робот өзүн тең салмактай алабы же керек болсо кайра тең салмактай алабы? Адамдардын жанында болуу менен, роботторду сүзүп же түртүп сынаса болот. Мунун баары илимдин атынан, алар айткандай.

Адамдар роботторго эмне үчүн "жаман мамиле кылып жатканы" жөнүндө эскертүүнү түшүнгөндөн кийин, ачууңузду кайтарып аласыз. Сизде дагы эле кооптонуу бар болушу мүмкүн, анткени адамга окшош конструкциянын уруп жатканын көрүү адамдардын же жаныбарлардын уруп жатканын элестетет. Сиз робот эч нерсени "сезип" койбой турганын билесиз, бирок аракеттерди көрүү дагы эле бир аз ооруйт (адамдардын роботтор сыяктуу AI системаларына болгон жакындык сезими жөнүндө көбүрөөк маалымат алуу үчүн, анын ичинде укмуштуудай көрүнүш. өрөөн, менин талкууну караңыз бул шилтемени бул жерде).

AI этикасы жаатындагылар AI тутумдарына катаал мамиле жасалганда биз башынан өткөргөн моралдык психологиялык табышмакты карап жатышат. Эң негизги кооптонуулардын бири - мындай "жаман мамилени" жасагандар баарыбызды ар кандай катаал мамилеге азыраак сезгич болууга үндөшү мүмкүн, анын ичинде адамдарга карата кордук көрсөтүүгө даяр болгон тайгалак.

Жакында жарыяланган изилдөөдө AI жана этика журналы “Элдик AI этикасындагы жана тобокелдик дискурсундагы социалдык-когнитивдик тенденциялар” деп аталган изилдөөчүлөр көңүл ачуучу маселени мындайча сүрөттөшөт: “Ошол эле көрүнүш AI жана роботтор доорунда моралдык психологиялык көйгөйгө айланышы мүмкүн. Биздин күнүмдүк реалдуулугубуз моралдык сабырдуулук статусу жок ар кандай акылдуу системалар менен толтурулганда, адамдар ырайымсыздыкка жана кайдыгерликке көнүп калышы мүмкүн. Кээде биз роботтор жөнүндө алар тирүү жана аң-сезимдүү деп ойлогондуктан, башка адамдар менен болгон мамилебизге терс таасирин тийгизе турган жүрүм-турум үлгүлөрүн кыйыр түрдө кабыл алышыбыз мүмкүн» (макала Майкл Лаакасуо, Воло Херзон, Силва Перандр, Марианна Дросину, Жукка авторлорунун авторлору: Sundvall, Jussi Palomaki жана Aku Visala).

Жыйынтыктап айтканда, AI негизиндеги робот же тирүү дем ​​алган адам сыяктуу объектке болобу, ага карабастан, биз катаал мамиле жасоо туура экенин моюнга алышыбыз мүмкүн. Сиз бул тизмеге жаныбарларга карата катаал мамиленин күчөшү мүмкүндүгүн кошо аласыз. Жалпысынан алганда, катаал мамиленин дарбазалары биз кылган бардык ишибизди коркунучтуу түрдө сууга батыра турган цунами болушу мүмкүн.

Дюйм сайын биз AI тутумдарынын катаал мамилесине көнүп калабыз жана бул өз кезегинде биздин туура эмес мамиледен итерүү сезимибизди дюйм сайын азайтат.

Бул кылдат изилденип жаткан этикалык AI теориясы. Бул өзгөчө учур талабы, анткени иштелип чыккан жана иштетилип жаткан AI тутумдары мурда болуп көрбөгөндөй адамдын мүмкүнчүлүктөрүн карап жана аракет кылып жатат. AI адамдын сезимталдыгына окшоштурууга умтулуп жатат, ошондуктан биз туура эмес мамиле кылуунун чачты көтөрүүчү коркунучтуу спектрин ылдыйга жылдырып жатабыз.

Мен бир аздан кийин тактап айтканда, бизде AI системаларын антропоморфизациялоо тенденциясы бар. Бүгүнкү күндө сезимтал AI жок экендигине жана сезимге качан жете аларын азырынча билбей турганына карабастан, биз адамга окшош көрүнгөн AI адамдык аспектилерге теңештирилет деп чечмелейбиз. Адамдар AIга карата жасалган катаал мамилени адамдарга жана жаныбарларга (кандайдыр бир тирүү жандыктарга) карата катаал мамиле жасоону улантуу үчүн жашыл жарык сыяктуу кабыл алуунун психикалык тузагына түшүп калабы?

Кээ бирөөлөр муну тиштеп алышыбыз керек деп айтышат.

Адамдарга AI тутумдарына катаал мамиле жасабашы керектигин айтыңыз. Атүгүл ошол басуучу жана сойлоп жүрүүчү роботтор менен экспериментаторлор да өздөрүнүн аракеттеринин видеолорун кубанычтуу көрсөтүү менен жаман кызмат кылып жатышты. Бул туура эмес мамиле жасоо жөнүндөгү коомдун көз карашын жокко чыгарган дагы бир кирпич. Кар тополоңу карлуу дөңсөөдөн ылдый жыла баштабасын.

Биз бардык нерсеге, анын ичинде объектилерге жана артефакттарга урмат-сый менен мамиле кылуубузду талап кылыңыз. Жана, өзгөчө, ал объекттер же артефакттар адамдын формасына окшош же окшош болгондо. Смартфонду дубалга ыргыткысы келген адамдарды токтото албасак, ошондой болсун, бирок алар роботту талкалагысы келгенде же адамдык аурасы бар ар кандай түзүлүшкө туура эмес мамиле жасашса, биз бутубузду жерге коюшубуз керек. .

Хогваш, кээ бирөөлөр катуу жек көрүү менен жооп беришет.

Адамдардын AI тутумуна жасаган мамилеси менен алар адамдарга жана жаныбарларга болгон мамилесин кандайдыр бир жол менен өзгөртөт деген ойдун ортосунда эч кандай байланыш жок. Бул эки башка тема. Аларды чаташтырбаңыз, каршы аргумент кетет.

Адамдар тирүү жандыктарга карата жасаган иш-аракеттеринен объектилерге карата иш-аракеттерди бөлүүгө жетиштүү акылдуу. Ошол чекиттерди бириктирүүгө аракет кылып, кол булгалап жатасыз. Ушундай эле тынчсыздануу оюнчуларга видео каармандарды атып, жок кылууга мүмкүндүк берген видео оюндарды колдонуп чоңойгондо пайда болгон окшойт. Андай болсо, бул AI роботторуна зыян келтиргенден да жаман болду, анткени видео оюнда кээде адамдарга такыр окшош видео каармандар көрсөтүлөт.

Бул каршы аргументке каршы видео оюндар чыныгы объектилер менен алектенбейт. Оюнчу алардын түш пейзажына чөмүлгөнүн билет. Бул смартфонду бөлмөнүн аркы өйүзүнө ыргытуудан же сойлоп бараткан роботту таяк менен уруудан алыс. Мындан тышкары, видео оюндарды ойноо реалдуу дүйнөдөгү жүрүм-турумга кантип өтүп кетиши мүмкүн деген суроолорду колдогон изилдөөлөр бар.

AI этикасы адамдын жүрүм-турумунун драйверлерин жана салыштырмалуу татаал AI-негизделген системалардын пайда болушуна кандайча таасир этерин, айрыкча, мындай AI тутумдарына адамдардын туура эмес мамилесин эске алуу менен изилдеп жатат. Айдоо жөнүндө айта турган болсок (ооба, мен аны ошол жерден байкадым), бул мага AI негизиндеги чыныгы өзүн-өзү айдаган унаалар темасына өтүүгө мүмкүндүк берет, бул жалпы темага жакшы түшөт.

Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү багыттардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизиндеги чыныгы өзүн-өзү башкара турган унаалардын пайда болушу объектиге же артефакттарга туура эмес мамиле жасоого байланыштуу кандайдыр бир нерсени жарыктандырабы?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Түшүндүрмө катары айтканда, чыныгы өзүн өзү башкаруучу автоунаалар - бул КТ унааны толугу менен өз алдынча айдайт жана айдоо учурунда адам жардамы болбойт.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адам айдоочунун айдоо аракетин биргелешип бөлүшүүсүн талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай ADA деп аталган автоматташтырылган кошумчаларADA
S (Advanced Driver-Assistance Systems).

5-деңгээлдеги чыныгы өзүн-өзү айдаган унаа азырынча жок, ага жетүү мүмкүнбү же ага канча убакыт кетет дагы билбейм.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Автоунаалар жана адамдардын душмандыгы

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Мен ишенем, бул мен айткым келген нерселердин негизинде жетиштүү эскертүүлөрдү берет.

Биз азыр өзүн-өзү башкара турган унааларга терең сүңгүп чыгууга даярбыз жана ошол мактанган автономдуу унааларга карата биздин потенциалдуу катаал мамилебиздин тегерегиндеги этикалык AI суроолоруна.

Биринчиден, сиз AI негизиндеги өзүн-өзү айдаган унаага эч ким жаман мамиле кылбайт деп ойлойсуз.

Бул логикалуу көрүнөт. Биз жалпысынан өзүн-өзү башкарган унаалардын негизги артыкчылыктарынын бири, алар адам башкарган унааларга караганда азыраак жол кырсыгына кабылат деген идеяны кабыл алабыз. AI ичпейт жана машина айдабайт. AI рулда отурганда мышыктардын видеолорун көрбөйт. Бир гана Америка Кошмо Штаттарында жыл сайын 40,000ге жакын жол кырсыгынан каза болуп, 2.5 миллионго жакын жаракат алат, алардын көбү биздин жолдордо өзүн-өзү башкарган унаалар кеңири жайылгандан кийин болбойт деп күтүлүүдө.

Өзү башкаруучу унаалардын эмнеси жакпайт, сиз өзүңүзгө айтып жаткандырсыз.

Ооба, тизме абдан кенен, менин камтууну караңыз бул шилтемени бул жерде, бирок мейкиндиктин чектелүүсүнөн улам, мен бул жерде бир нече өзгөчө айтылган жагымсыз аспектилерди айтып берем.

Мен буга чейин өзүмдүн колонкаларымда айтып өткөндөй, өзү башкарган унаалардын жанына таш ыргытып, көчөгө мык сыяктуу темир буюмдарды коюп, өзү башкарган унаалардын дөңгөлөктөрүн тешип кеткен учурлар болгон. Бул ар кандай айтылган себептер менен жасалган. Алардын бири, өзүн-өзү башкарган унаалар роумингде жүргөн аймактагы адамдар AI айдоо системалары прайм-таймга даяр эмес деп тынчсызданышкан.

Көчөнүн аркы өйүзүнө өтүп бара жаткан баланы сүзүп же жолдо айланып бараткан сүйүктүү үй жаныбарын сүзүп, AI айдоо системасы бузулуп калышы мүмкүн деген кооптонуу болгон. Бизге гвинея чочколору сыяктуу мамиле жасалгандыгы жөнүндө мурунку пунктка ылайык, сыноо жана даярдык жетишсиз болгон жана өзүн-өзү башкарган унаалар туура эмес түрдө бошотулган деген ишеним болгон. Сыноолорду кыскартуу аракеттери мыйзамдуу түрдө айланып өтүүгө уруксат берилген өзүн-өзү башкарган унааларга нааразы болгон коомдук көрүнүш катары жасалды.

Кээде башка себептер аралашкан болушу мүмкүн. Мисалы, кээ бирөөлөр рейдшеринг аркылуу акча табууга ишенген айдоочулар AI аларды алмаштыруу алдында турат деп кооптонушкан деп айтышкан. Бул алардын жашоосуна коркунуч болгон. Сиз, албетте, AI негизделген чыныгы өзүн-өзү башкара турган унаалардын пайда болушу дагы эле узак жол экенин жана жумушчуларды алмаштыруу маселеси дароо эмес экенин билесиз. Демек, таш ыргытуу жана башка окуялар коопсуздукка байланыштуу болгон окшойт.

AIнын туура эмес мамилеси жөнүндөгү бул темадагы максаттарыбыз үчүн, AIнын негизиндеги өзүн-өзү башкара турган унааларга каршы бир аз кыйратуучу иш-аракеттерди жасоого даяр болуу AIга катаал мамиле кылуудан адамдарга жаман мамиле жасоого чейинки тайгак эңкейиштин алгачкы көрсөткүчү болобу деген суроо туулат.

Ошол оюңду карма.

AI негизиндеги өзүн-өзү башкара турган унааларга карата каралып жаткан катаал мамиленин дагы бир бурчу, кээ бир айдоочулар, жада калса жөө жүргүнчүлөр ошол автономдуу унааларга багытталган "бейбаштык" болуп саналат, менин анализдеримди караңыз бул жерде шилтеме жана бул жерде шилтеме.

Кыскача айтканда, айдап бараткан жана өзүн-өзү башкарган унаага туш болгон адам айдоочулар кээде айдоочусу жок унааларда айдоо менен байланышкан трюктарды ойноону чечишет. Бул куулук кээде жөн гана көңүл ачуу үчүн жасалат, бирок анын негизи көбүнчө бүгүнкү AI айдоо тутумдарына болгон нааразычылык жана кыжырдануу менен шартталган.

AI айдоо системаларынын көпчүлүгү катуу мыйзамдуу жол менен айдоо үчүн программаланган. Адамдын айдоочулары сөзсүз түрдө мыйзамдуу түрдө айдашпайт. Мисалы, адам айдоочулар көбүнчө белгиленген ылдамдык чегинен ашып, кээде эң коркунучтуу жолдор менен айдашат. Адамдардын айдоочулары өзүн-өзү башкарган унаанын артында турганда, адам айдоочусу "жайлоочу" AI айдоо тутумунун таасиринен ажырап калат.

Учурда өзүн-өзү башкаруучу унаалар көп жашаган аймактарда жашаган адамдар алдыда өзүн-өзү башкарган унааны көргөндө дароо капа болуп кетишет. Алар автономдуу унаа алардын айдоо сапарын талап кылынгандан узакка созуларын билишет. Демек, мындай айдоочулар өзүн өзү башкарган унаага карата агрессивдүү мамилени тандашат.

Айдоочулар өздөрү башкарган унааны тегеректеп, аны кесип салышарын билишет. AI айдоо системасы жөн гана автономдуу унааны жайлатат жана ал эч кандай жол каарына жооп бербейт. Эгерде адам айдоочу башка адам айдоочуга ушундай эле агрессивдүү кадам жасоого аракет кылса, анда жаза сөзсүз түрдө пайда болот. Кандайдыр бир даражада, адам айдоочулар жабыр тарткан айдоочу өч алышы мүмкүн экенин түшүнүү негизинде агрессивдүү айдоону жөнгө салышат.

AI негизиндеги өзүн-өзү башкарган унааларга карата адамдын айдоо жүрүм-турумунун мындай түрү Пандоранын айдоо жүрүм-турумунун жаман кутусун ачабы?

жыйынтыктоо

Биз AI негизиндеги өзүн-өзү башкаруучу унааларга жаман мамиле кылган адамдардын эки жалпы учурун столго койдук. Биринчи мисал таштарды ыргытуу жана жолдордо өзүн-өзү башкаруучу унааларды колдонууга бөгөт коюу аракетин камтыйт. Экинчи мисал өзүн-өзү башкарган унааларды агрессивдүү айдоо.

Бул, жок эле дегенде, бул тынчсызданууларды алып келет:

• Мындай жаман мамиленин пайда болушу адам башкарган унааларга да жайылабы?
• Эгер бул улана берсе же андан ары улана берсе, мындай катаал мамиле адамдык аракеттердин башка аспектилерине да жайылабы?

Жооптордун бири - бул AI негизиндеги өзүн-өзү башкаруучу унааларга болгон убактылуу реакциялар. Коомчулук өз жолдорубузда өзүн-өзү башкарган унаалар коопсуз иштеп жатканына ынанса, таш ыргытуу жана мындай оор аракеттер дээрлик жок болот (баса, бул өтө басаңдап калгандай). Эгер AI айдоо тутумдары биздин жолдорубуздагы тоскоолдуктарды азыраак кылып өркүндөтсө, жакын жердеги айдоочулар өзүн-өзү айдаган унааларга агрессивдүү мамиле жасашпайт.

Бул талкуунун жүрүшүндө көңүл буруу, кыязы, кыязы, катаал мамилеге алып келет. AIга катаал мамиле кылуу сыяктуу канчалык көп катаал мамиле кылсаңыз, адамдарга жана жаныбарларга карата катаал мамиле ошончолук кабыл алынып, ишке ашат.

Ишенсеңер же ишенбейсиңерби, бул монетанын дагы бир жагы бар, бирок айрымдар муну оптимисттик бактылуу жүздүн бурулушу катары карашат.

Бул өзгөчө оптималдуу сунуш: Балким, туура дарылоо туура дарылоону баштайт.

Мына, мен деген эмне.

Кээ бир эксперттер AI айдоо тутумдары мыйзамдуу жана кылдаттык менен айдоо үчүн программалангандыктан, адам айдоочулары мындан сабак алып, акыл-эстүүлүк менен айдоону чечиши мүмкүн деп эсептешет. Айланаңыздагы башка унаалар ылдамдыктын чегин катуу кармаганда, балким, сиз да аткарасыз. Бул өзүн-өзү башкарган унаалар токтогон белгилерге токтоп, кызыл жарыкты күйгүзүүгө аракет кылбаганда, адам айдоочулар да ушундай эле шыктануу менен айдоого шыктанышат.

Скептик бул ой жүгүртүү сызыгын арык, балким, ал тургай, бактылуу көздүү жана абсурддук наиф деп эсептейт.

Мени оптимист деп атаңыз, бирок мен адам айдоочулары акылдуулук менен айдоого түрткү болот деген кыялкеч түшүнүккө добуш берем. Албетте, AI негизиндеги чыныгы өзүн-өзү башкара турган унаалар видеого жана алардын башка сенсорлоруна жакын жердеги адам башкарган башка унаалардын акылсыз маневрлерин тартып алышы жана бир баскычты басуу аркылуу полицияга мыйзамсыз айдоо жөнүндө чечим кабыл алышы мүмкүн. , адамдын жакшыраак айдоосу үчүн зарыл болгон "шыктандырууну" камсыздай алат.

Кээде адамдын жүрүм-туруму гармониялуу болушу үчүн сабиз да, таяк да талап кылынат.