AI этикасы өсүп келе жаткан ысык картөшкө синдрому жөнүндө AI жаратуучулар тарабынан ишке ашырылып жатканына байланыштуу, алардын өмүрүн чечүүчү автономдуу системалары үчүн жоопкерчиликтен качууга аракет кылып жаткандай сезилет.

Баарыбыз билебиз, сиз ылакаптуу картошка менен бүтпөсүңүзгө ынанышыңыз керек.

Ысык картошка гамбити анын тамырын жок эле дегенде 1800-жылдардын аягында, күйгүзүлгөн шамдарды камтыган салондо ойногон оюнда топту айлантып салган окшойт. Адамдар, адатта, бири-бирине салыштырмалуу жанаша болгон бир катар жыгач отургучтарга отурушуп, ошол доордо бир топ кызыктуу оюн ойношчу. Күйгүзүлгөн шамды оюнчулар адамдан адамга өткөрүп беришет жана биз кийинчерээк аны тапшыруу деп айтууну чечтик. Ысык картошка.

Ар бир адам акырындап күйүп жаткан шамдын жанынан өтүүдөн мурун элдик рифманы үн чыгарып айтуусу талап кылынчу. Сыягы, рифма мындай болуп кетти:

«Жек тирүү жана жашашы мүмкүн;

Эгер ал сенин колуңда өлсө, сен бере аласың».

Бул рифмалуу рецитал, кыязы, шамдын акыркы жыйынтыгына чейин күйүп кетишине бир аз убакыт берет. Аягында табигый өчкөндө ким колундагы шам менен тыгылып калса, ал ширенкеден утулуп калган адам болгон (пн!).

Римада көрсөтүлгөн сөздөргө ылайык, утулган тарап "уюу" төлөшү керек болчу, ошондуктан, адатта, оюндун ар кандай кийинки раунддарынан чыгууга туура келген. Муну биз бүгүн күнүмдүк музыкалык отургучтар деп эсептеген нерселер менен айкалыштырса болот, ошондуктан раунддан утулган адам кийинки раунддарга катышпай калат (музыка токтоп, бош орунга ээ боло албай калгандай). Акыр-аягы, акыркы өчүрүүдө акыркы жеңүүчү аныкталганга чейин күйгүзүлгөн шамдын жанынан өтүп, рифманы айткан эки адам гана калат.

Эмне үчүн биз бул оюнду күйгүзүлгөн шам менен ойнобойбуз жана эмне үчүн биз муну адатта "күйгүзүлгөн шам" схемасы катары эмес, ысык картошка деп атайбыз деп ойлонуп жатсаңыз керек. Окумуштуулар мунун акырындык менен ишке ашкандыгы жөнүндө көптөгөн теорияларды ойлоп табышты. Тарых бул маселеде нерселердин кандайча өнүгүп жатканы тууралуу бүдөмүк жана чечкинсиз көрүнөт. Менимче, күйгүзүлгөн шамдар көп колдонулбайт деп жеңилдей алабыз деп ойлойм, анткени бир нерсенин байкаларлык түрдө бузулуп кетүү ыктымалдыгы абдан кооптуудай сезилет (кимдир бирөө шамды түшүрүп, от жагып жиберет, же кимдир бирөө шамды кармаганда күйүп кетет. башка оюнчудан ж.б.).

Күйгүзүлгөн шамды алмаштыруучу ысык картошкага келсек, сиз жалпысынан картошка бир аз коопсуз болот деп ырастасаңыз болот. Ачык от жок. Эритүүчү мом жок. Бул контекстте картошканы колдонуунун потенциалдуу негизи, алар ысытылгандан кийин жылуулукту оңой кармап калаары белгилүү. Картошканы ары-бери өткөрсөңүз болот, ал бир канча убакытка чейин ысык бойдон калат. Бири, ысык картошка качан ысык болбой, анын ордуна муздак деп бааланганын чечүү кызуу талаш-тартыштуу сунуш болот деп болжолдойт.

Албетте, ылакап ысык картошка түшүнүгү бүгүнкү күндө өз алдынча карап чыгуу болуп саналат. Ысык картошка катары бааланган же рейтингге ээ болгон бардык нерсе, адатта, чындап арылуу сапаты болуп саналат. Сиз ысык картошка кармагыңыз келбейт. Анын башка жакка кеткенине ынангыңыз келет. Кандайдыр бир деңгээлде, анын кайда кетип жатканы сизди өтө эле тынчсыздандырбашы мүмкүн, жөн гана ал сиздин колуңузда эмес.

Сиз сүйүктүү досуңузга же ушуга окшош таанышыңызга ысык картошканы тапшыруу үчүн өтө кылдат көрүнөсүз. Бул толугу менен сырткы көрүнүшү мүмкүн. Мүмкүн болсо, ошол ысык картошканы коё турган башка бирөөнү же башка жерди табыңыз. Айласыз кадам ысык картошканы боорукер кесиптешине мажбурлоо болушу мүмкүн, бирок бул акыркы чара катары гана жасалат деп үмүттөнөбүз.

Бул монетанын экинчи тарабы - сизге жакпаган же өч алууну көздөгөн адамга ысык картошка берүүдөн ырахат ала аласыз. Албетте, эгер сиз сизге жаман мамиле кылган адамды өлтүргүңүз келсе, ысык картөшкө дээрлик пайдалуу болот. Алар ысык картошка менен эмне кылуу керек экенин аныкташсын. Картошкага жакшылык, ал эми сиз аны белгилеген адамга эң жаман ийгилик.

Эки эле киши катышкан ысык картөшкө сценарийинде, жагымсыз жана жагымсыз буюмду кайсы адам кармап жатканы боюнча тез эле талашып-тартышуу мүмкүн. Мисалы, мен сага ысык картошканы тапшырам, сен шашып кайра мага бересиң. Ар бир тапшыруунун ортосунда питомниктин рифмасын жарыялоонун кереги жок деп ойлосок, биз картөшкөнүн жанынан колубуз уруксат берсе, тез эле өтүп кете алабыз.

Эмне үчүн мен урматтуу жана көп айтылган ысык картошкага терең сүңгүүнү тандап алганым кызык болушу мүмкүн.

Бул жерде эмне үчүн.

Көрсө, ысык картошканын бети Жасалма интеллект (AI) тармагында көбүрөөк колдонулуп жатат.

Көпчүлүк адамдар бул тууралуу эч нерсе билишпейт. Алар бул тууралуу эч качан уккан эмес. Алар анын эмне экенин такыр билишпейт. Атүгүл көптөгөн AI иштеп чыгуучулар бул маселени билишпейт. Ошентсе да, ал бар жана чындап эле күмөндүү шарттарда, өзгөчө өмүр же өлүм жагдайларын камтыган учурларда колдонулуп жаткандай сезилет.

Мен муну AI Ысык картошка синдрому.

Бул синдромдун астында жаткан көптөгөн олуттуу кесепеттер бар жана биз AI этикасынын ой жүгүртүү баш кийимдерибизди кийгенибизге жана эмне кылуу керектигин ойлонушубуз керек. Этикалык ой жүгүртүүлөр бар. Көрүнүп турган юридикалык кесепеттер да болушу мүмкүн (алар коомчулукка али жете элек, бирок мен жакында алар деп болжолдойм). Менин AI этикасы, этикалык AI жана юридикалык AI маселелери боюнча үзгүлтүксүз жана кеңири чагылдыруу үчүн, караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Келгиле, таңгактан чыгалы AI ысык картошка синдрому.

Адам менен бирге иштеген AI системасын элестетиңиз. AI жана адам кээ бир жүрүп жаткан иш-аракеттерди көзөмөлдөп жатышат, ошондуктан кээде адам башкарып турат, ал эми башка учурларда AI көзөмөлдөйт. Бул адегенде адептүү же акылга сыярлык жол менен жасалышы мүмкүн. Ар кандай себептерден улам, AI башкарууну тез арада адамга өткөрүп берүү керектигин эсептөө жолу менен аныкташы мүмкүн.

Бул Ысык картошка Бул жөн гана балага үйрөтүүчү оюн катары кызмат кылбастан, чыныгы дүйнөдө жашоого коркунуч туудурат.

AIдан адамга башкаруунун шашылыш түрдө өтүшүнүн көйгөйү - бул акылга сыярлык түрдө жасалышы мүмкүн же бир топ акылга сыйбаган жол менен аткарылышы мүмкүн. Эгерде адам өзгөчө өткөрүп берүүнү күтпөсө, анда бул көйгөй болушу мүмкүн. Эгерде адам башкаруунун өтүшү менен жалпысынан жакшы болсо, өткөрүп берүүнүн негизинде жаткан жагдайлар адамга жетишсиз убакыт берилгенде же контролдун эмне үчүн адамдын колуна күч менен берилип жаткандыгы жөнүндө жетиштүү кабардар болбогондо коркунучтуу болушу мүмкүн.

Биз бул адам үчүн жана балким башка жакын адамдар үчүн өмүр же өлүм коркунучун жаратышы мүмкүн болгон мисалдарды изилдейбиз. Бул олуттуу нерсе. Мезгил, чекит.

Жапайы жана жүндүү ойлордун кээ бир эттүү жактарына кирүүдөн мурун AI ысык картошка синдрому, келгиле, абдан маанилүү темалар боюнча кээ бир кошумча негиздерин айталы. Биз AI этикасына жана айрыкча Machine Learning (ML) жана Deep Learning (DL) пайда болушуна кыскача киришибиз керек.

Бүгүнкү күндө AI тармагында, атүгүл AI талаасынан тышкары жерлерде эң катуу үндөрдүн бири этикалык AIнин көбүрөөк окшоштугу үчүн кыйкырыктардан турат деп бүдөмүк билесиз. Келгиле, AI этикасына жана этикалык AIге кайрылуу эмнени билдирерин карап көрөлү. Анын үстүнө, мен Machine Learning жана Deep Learning жөнүндө айтканда эмнени айткым келгенин изилдейбиз.

ЖМКнын көңүлүн бурган AI этикасынын белгилүү бир сегменти же бөлүктөрү терс көз караштарды жана теңсиздикти көрсөткөн AIдан турат. AIнын акыркы доору башталганда, азыр кээ бирөөлөр деп атаган нерсеге энтузиазмдын чоң жарылуу болгонун билесиз. AI For Good. Тилекке каршы, ошол шаркыратма толкундан кийин биз күбө боло баштадык AI For Bad. Мисалы, AI негизиндеги жүздү таануунун ар кандай системалары расалык көз караштарды жана гендердик көз караштарды камтыганы аныкталган, алар жөнүндө мен талкууладым. бул жерде шилтеме.

каршы күрөшүү аракеттери AI For Bad активдүү жүрүп жатат. Кыйкырыктан тышкары укуктук туура эмес иш-аракеттерди ооздуктоого умтулуу, ошондой эле AIнын жамандыгын оңдоо үчүн AI этикасын кабыл алууга олуттуу түрткү бар. Биз AIны өнүктүрүү жана жайылтуу үчүн негизги этикалык AI принциптерин кабыл алып, бекитишибиз керек деген түшүнүк бар. AI For Bad жана ошол эле учурда артыкчылыктууларды жарыялоо жана алдыга жылдыруу AI For Good.

Тиешелүү түшүнүк боюнча, мен AIны AI көйгөйлөрүн чечүүнүн бир бөлүгү катары колдонууга аракет кылып, ушундай ой жүгүртүү менен от менен от менен күрөшүүнүн жактоочусумун. Биз, мисалы, этикалык AI компоненттерин AI тутумуна киргизсек болот, ал AIнын калган бөлүгү кандай иштерди жасап жатканын көзөмөлдөп, реалдуу убакытта дискриминациялоочу аракеттерди байкай алат, менин талкууну караңыз бул жерде шилтеме. Бизде ошондой эле өзүнчө AI системасы болушу мүмкүн, ал AI этикасынын мониторунун бир түрү катары иштейт. AI системасы башка AI этикага жатпаган туңгуюкка баратканда көзөмөлдөө жана аныктоо үчүн көзөмөлчү катары кызмат кылат (мындай мүмкүнчүлүктөр боюнча менин анализимди караңыз: бул жерде шилтеме).

Бир аздан кийин мен сиз менен AI этикасынын негизги принциптерин бөлүшөм. Бул жерде жана бул жерде калкып жаткан көптөгөн тизмелер бар. Сиз азырынча универсалдуу кайрылуунун жана макулдашуунун бирдиктүү тизмеси жок деп айта аласыз. Бул жагымсыз кабар. Жакшы жаңылык, жок эле дегенде, жеткиликтүү AI этикасынын тизмелери бар жана алар абдан окшош. Мунун баары негиздүү конвергенциянын бир түрү аркылуу биз AI этикасынын жалпы жалпылыгына карай жол таап жатканыбызды көрсөтүп турат.

Биринчиден, келгиле, AI жасаган, талаага чыгарган же колдонгон адам үчүн эмне маанилүү экенин көрсөтүү үчүн жалпы этикалык AI осуяттарынын айрымдарын кыскача ачып берели.

Мисалы, Ватикан тарабынан айтылгандай Рим AI этикасына чакырат жана мен тереңирээк карадым бул жерде шилтеме, булар алардын аныкталган алты негизги AI этикасынын принциптери:

• ачыктык: Негизи, AI системалары түшүнүктүү болушу керек
• Кошуу: Ар бир адам пайда көрүшү үчүн жана бардык инсандарга өзүн көрсөтүү жана өнүктүрүү үчүн мүмкүн болгон эң жакшы шарттарды сунуштоо үчүн бардык адамдардын муктаждыктары эске алынышы керек.
• жоопкерчилиги: AI колдонууну иштеп чыккан жана жайылткандар жоопкерчилик жана айкындуулук менен жүрүшү керек
• Калыс: Адилеттүүлүктү жана адамдык ар-намысты коргоп, бир жактуулукту жаратпаңыз же аракет кылбаңыз
• ишенимдүүлүк: AI системалары ишенимдүү иштей алышы керек
• Коопсуздук жана купуялык: AI системалары коопсуз иштеши керек жана колдонуучулардын купуялыгын сыйлашы керек.

АКШнын Коргоо министрлигинин (DoD) билдирүүсүндө Жасалма интеллектти колдонуунун этикалык принциптери жана мен тереңирээк карадым бул жерде шилтеме, булар алардын алты негизги AI этика принциптери:

• Жооптуу: DoD кызматкерлери AI мүмкүнчүлүктөрүн иштеп чыгуу, жайылтуу жана колдонуу үчүн жоопкерчиликтүү бойдон калууда, тиешелүү деңгээлде ой жүгүртүү жана кам көрүшөт.
• Адилеттүү: Бөлүм AI мүмкүнчүлүктөрүндө күтүлбөгөн терс көрүнүштөрдү азайтуу үчүн атайылап чараларды көрөт.
• Изделүүчү: Бөлүмдүн AI мүмкүнчүлүктөрү тиешелүү персонал AI мүмкүнчүлүктөрүнө колдонулуучу технологияларды, иштеп чыгуу процесстерин жана оперативдүү ыкмаларын, анын ичинде ачык-айкын жана аудитордук методологияларды, маалымат булактарын, долбоорлоо процедурасын жана документтерин тийиштүү түшүнүүгө ээ болушу үчүн иштелип чыгат жана жайылтылат.
• ишенимдүү: Бөлүмдүн AI мүмкүнчүлүктөрү ачык, так аныкталган колдонууга ээ болот жана мындай мүмкүнчүлүктөрдүн коопсуздугу, коопсуздугу жана натыйжалуулугу алардын бүткүл жашоо циклдеринде аныкталган колдонуунун алкагында сыноодон жана кепилдиктен өтүүгө тийиш.
• Башкарылуучу: Бөлүм күтүлбөгөн кесепеттерди аныктоо жана болтурбоо, ошондой эле күтүлбөгөн жүрүм-турумду көрсөткөн орнотулган системаларды өчүрүү же өчүрүү жөндөмдүүлүгүнө ээ болуу менен, өз милдеттерин аткаруу үчүн AI мүмкүнчүлүктөрүн иштеп чыгат жана инженериялайт.

Мен ошондой эле AI этикасынын принциптеринин ар кандай жамааттык анализдерин талкууладым, анын ичинде көптөгөн улуттук жана эл аралык AI этикасынын жоболорунун маңызын изилдеген жана конденсациялаган изилдөөчүлөр тарабынан иштелип чыккан комплексти камтыган “The Global Landscape of AI Ethics Guidelines” (жарыяланган. ичинде жаратылыш), жана менин камтуум изилдейт бул жерде шилтеме, бул негизги таш тизмесине алып келди:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Түздөн-түз божомолдогонуңуздай, бул принциптердин негизинде жаткан өзгөчөлүктөрдү аныктоого аракет кылуу абдан кыйын болушу мүмкүн. Андан тышкары, бул кеңири принциптерди AI тутумдарын жасоодо колдонуу үчүн толугу менен сезилерлик жана деталдуу нерсеге айландыруу аракети да катаал жаңгак болуп саналат. AI этикасынын осуяттары эмне экендиги жана аларды жалпысынан кантип сактоо керектиги жөнүндө жалпысынан бир аз кол булгалоо оңой, ал эми AI коддоосунда бул жолго жооп берген чыныгы резина болушу керек болгон бир топ татаал жагдай.

AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, акырында AI тутумдарын иштеткен жана тейлеген адамдар колдонушу керек. AIны иштеп чыгуунун жана колдонуунун бүткүл жашоо циклиндеги бардык кызыкдар тараптар Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлор гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманышат. Жогоруда айтылгандай, AI ойлоп табуу жана жайылтуу үчүн айыл керек, ал үчүн бүт айыл AI этикасынын эрежелерин билиши керек.

Келгиле, бүгүнкү AIнын табияты жөнүндө бир бетте экенибизди текшерип көрөлү.

Бүгүнкү күндө сезимтал AI жок. Бизде бул жок. Сезимдүү AI мүмкүн болорун билбейбиз. Эч ким так айта албайт, биз сезгич АИге жетебизби, же сезгич AI кандайдыр бир кереметтүү түрдө өзүнөн-өзү пайда болоорун айта албайт (көбүнчө сингулярлык деп аталат, менин камтууумду караңыз). бул жерде шилтеме).

Мен басым жасап жаткан AI түрү бүгүнкү күндө бизде бар сезилбеген AIдан турат. Эгерде биз жапайы ой жугуртууну кааласак сезимтал AI, бул талкуу түп-тамырынан бери башка багытта кетиши мүмкүн. Сезимдүү AI адамдык сапатка ээ болмок. Сиз сезүүчү AI адамдын когнитивдик эквиваленти экенин эске алышыңыз керек. Андан тышкары, кээ бирөөлөр бизде супер интеллектуалдык AI болушу мүмкүн деп божомолдогондуктан, мындай AI адамдардан акылдуураак болушу мүмкүн (супер-акылдуу AI боюнча менин изилдөөм үчүн, караңыз. камтуу бул жерде).

Келгиле, нерселерди жер бетине түшүрүп, бүгүнкү эсептөөчү сезилбеген AIны карап көрөлү.

Бүгүнкү AI адамдын ой жүгүртүүсү менен бирдей эч кандай модада “ойлоого” жөндөмсүз экенин түшүнүңүз. Alexa же Siri менен баарлашканыңызда, сүйлөшүү мүмкүнчүлүктөрү адамдын мүмкүнчүлүктөрүнө окшош сезилиши мүмкүн, бирок чындыгында ал эсептөөчү жана адамдын таанып-билүү жөндөмү жок. AIнын акыркы доору эсептөө үлгүлөрүн дал келүүнү камсыз кылган Machine Learning (ML) жана Deep Learning (DL) кеңири колдонду. Бул адамга окшош өңүттөгү AI системаларына алып келди. Ошол эле учурда, бүгүнкү күндө жалпы акылга окшош бир дагы AI жок жана адамдын күчтүү ой жүгүртүүсүнүн когнитивдик кереметтери жок.

ML/DL эсептөө үлгүсүн далдаштыруунун бир түрү. Кадимки ыкма сиз чечим кабыл алуу тапшырмасы жөнүндө маалыматтарды чогултасыз. Сиз маалыматтарды ML/DL компьютер моделдерине киргизесиз. Бул моделдер математикалык үлгүлөрдү табууга умтулушат. Мындай үлгүлөрдү тапкандан кийин, эгер табылса, AI системасы жаңы маалыматтарга туш болгондо ошол үлгүлөрдү колдонот. Жаңы маалыматтар берилгенден кийин, учурдагы чечимди чыгаруу үчүн "эски" же тарыхый маалыматтарга негизделген үлгүлөр колдонулат.

Менимче, сиз бул кайда бара жатканын биле аласыз. Эгерде чечимдерди кабыл алган адамдар терс көз караштарды камтыса, анда маалыматтар муну тымызын, бирок маанилүү жолдор менен чагылдырат. Machine Learning же Deep Learning эсептөө үлгүсүн дал келтирүү жөн гана тиешелүү түрдө маалыматтарды математикалык тууроого аракет кылат. AI тарабынан жасалган моделдөөнүн жалпы акыл-эстин же башка сезимтал аспектилердин окшоштугу жок.

Андан тышкары, AI иштеп чыгуучулар да эмне болуп жатканын түшүнбөй калышы мүмкүн. ML/DLдеги сырдуу математика азыр жашырылган калпыстыктарды жоюуну кыйындашы мүмкүн. Сиз AI иштеп чыгуучулары потенциалдуу көмүлгөн тенденцияларды сынашат деп үмүттөндүңүз жана күтөсүз, бирок бул көрүнгөндөн алда канча татаал. Салыштырмалуу кеңири тестирлөө менен дагы ML/DL үлгүсүнө дал келген моделдердин ичинде калпыстыктар сакталат деген чоң мүмкүнчүлүк бар.

Сиз кандайдыр бир атактуу же атагы чыккан таштандыны таштандыдан чыгаруу деген макалды колдонсоңуз болот. Эң негизгиси, бул AIнын ичине кирип кеткен көзкараштар катары тымызын түрдө пайда болгон бир тараптуулукка көбүрөөк окшош. AIнын алгоритмдик чечимдерди кабыл алуу (ADM) аксиоматикалык түрдө теңсиздикке толгон.

жакшы эмес.

Келгиле, ысык картошкага жана анын AI-да мүмкүн болуучу каргашалуу колдонулушуна көңүл буралы. Ошондой эле ысык картошканын айла-амалынын ичинде жашынып калышы мүмкүн болгон кара ниеттик да бар.

Ысык картошка гамбитинин AI көрүнүшү жөнүндө кыскача маалымат катары:

• AI жана циклдеги адам берилген тапшырманын үстүндө бирге иштешет
• AI кээ бир учурларда көзөмөлдөйт
• Убакыттын бир бөлүгүн адам башкара алат
• AI менен адамдын ортосунда өткөрүп берүү протоколунун кандайдыр бир түрү бар
• Өткөрмө өтө көрүнүктүү болушу мүмкүн, же ал тымызын жана дээрлик жашыруун болушу мүмкүн
• Мунун баары, адатта, реалдуу убакыт контекстинде болот (бир нерсе активдүү жүрүп жатат)

Бул жерде эң негизги көңүл буруу негизинен ысык картошка болуп саналат жана AI күтүлбөгөн жерден башкарууну адамга өткөрүп берүүнү чечет. Сураныч, көңүл буруңуз, мен бул жерде дагы башка аспектти, тактап айтканда, адамдын AI-га ысык картошка катары өткөрүп берүүсүн карайм.

Биринчиден, AI адамга картошканы өткөрүп бергенде эмне болорун карап көрүңүз.

Мен адамды циклдеги адам деп атайын деп жатам, анткени мен адам буга чейин иштеп жаткан иш-аракеттин бир бөлүгү жана бөлүгү экенин айтып жатам. Бизде башка сценарийлер болушу мүмкүн, бул иш-аракетке өзгөчө катышпаган адам, балким, бүт маселеге чоочун, AI ысык картошканы тапшырат, андыктан бул чөйрөнүн башка даамдары бар экенин унутпаңыз.

Эгер мен сага ысык картошка сунуп жатсам жана аны акылга сыярлык түрдө кылгым келсе, балким, мен сага бир нерсени тапшырып жатканымды эскертмекмин. Андан тышкары, эгер мен чындап эле ысык картошкага ээ болгонуңуз мендегиден жакшыраак деп ишенсем, мен муну жасаганга аракет кылмакмын. Мен акыл-эсим менен эсептейт элем, ал сенде болушу керекпи же аны улантышым керекпи.

Баскетбол оюнун элестетиңиз. Сен экөөбүз бир командадабыз. Оюнда жеңишке жетүү үчүн аракет кылабыз деп үмүттөнөбүз. Саат бүтөөрүнө саналуу секундалар калды жана биз гол киргизишибиз керек, антпесе оюндан утулуп калабыз. Мен акыркы ок чыгаруу үчүн абалга келем. Мен ушундай кылышым керекпи же топту сага өткөрүп беришим керекпи, сен акыркы соккуну кыласыңбы?

Эгерде мен жакшыраак баскетболчу болсом жана соккуну чөгүүгө мүмкүнчүлүгүм көбүрөөк болсо, мен баскетболду сактап, сокку жасаганга аракет кылышым керек. Эгер сен менден жакшыраак баскетболчу болсоң, балким, мен сага топту берип, соккуну сага беришим керек. Башка ойлор биринчи орунда турат, мисалы, кимибиз аянтчада ок чыгаруу үчүн жакшыраак позициядабыз, плюс оюн бүтөөрүнө аз калгандыктан, кимибиз чарчап калганбыз жана эскирип калышыбыз мүмкүнбү, бирок тең эмес. алардын атышуу. Жана башкалар.

Ушул факторлордун бардыгы менен түйшүктүү учурдун ортосунда, мен топту сактап калуу же аны сизге өткөрүп берүү жөнүндө чечим кабыл алышым керек.

Бул сценарийде саат абдан маанилүү экенин түшүнүү. Сиз жана мен экөөбүз тең өз убагында жооп берип жатабыз. Бүт оюн азыр линияда. Саат бүткөндөн кийин же бирөөбүз ок чыгаргандыктан жеңдик, же аны чөктүрбөй утулуп калдык. Мен себетти чөктүрсөм баатыр болушум мүмкүн. Же мен сага топту берип жиберсем, сен аны чөктүрсөң баатыр болосуң.

Мунун да эчки жагы же терс жактары бар. Эгерде мен топту сактап калып, соккуну өткөрүп жиберсем, баары мени теке катары же бүт команданы ылдый түшүрдү деп күнөөлөшү мүмкүн. Экинчи жагынан, мен сага топту өткөрүп берсем, сен соккуну өткөрүп жиберсең, анда сен эчки болосуң. Бул сизге таптакыр адилетсиздик болушу мүмкүн, анткени мен сизди акыркы аткыч болууга жана акыркы окту жасоого мажбурладым.

Мен сени ошол өкүнүчтүү абалга койгонумду сөзсүз билесиң. Менин муну кылганымды баары көрүп турса да, алар акыркы топко ээ болгон адамга гана көңүл бурушу керек. Мен бекер коньки тебмекмин. Акыркы учурда топту сага өткөрүп бергенимди эч ким эстебейт. Алар сизде топ бар экенин жана соккуну жасабаганыңыз үчүн оюндан утулуп калганыңызды гана эстешмек.

Макул, мен сага топту өткөрүп берем.

Эмне үчүн мен мындай кылдым?

Муну аныктоонун оңой жолу жок.

Чыныгы ниетим, мен теке болуп тыгылып калгым келбегендиктен, бардык басымды сизге жүктөөнү чечтим. Эмне үчүн топту өткөрүп бердим деп сурашканда, мен сизди менден жакшы аткыч деп ойлогондуктан ушундай кылдым деп айта алмакмын (бирок, мен буга такыр ишенбейм деп коёлу). Же мен сизди менден жакшыраак абалда деп ойлогом (келгиле, мен да ойлогон эмесмин деп коёлу). Мен чындап эле ысык картошкага тыгылып калбаш үчүн аракет кылып жатканымды эч ким билбейт.

Сырттан караганда, менин сага топту берүүмдүн чыныгы жүйөсүн эч ким оңой эле түшүнө алган жок. Балким, мен сизди мыкты оюнчу деп эсептегеним үчүн күнөөсүз кылдым. Бул бир бурч. Мүмкүн, мен ушундай кылдым, анткени мен баары бир соккуну өткөрүп жибергеним үчүн мени утулган деп аташын каалабагандыктан, мен топту сага алдым жана бул мен үчүн чоң жеңилдик болду деп ойлодум. Мен сени чындап ойлодумбу, бул таптакыр башка маселе.

Биз азыр AI менен байланышкан ысык картошкага дагы бир нече маалымат кошо алабыз:

• AI акыркы учурда циклдеги адамга башкарууну тапшырат
• Акыркы көз ирмем адамдын жашоого жарамдуу аракетинен алда канча алыс болушу мүмкүн
• Циклдеги адам башкарууга ээ, бирок өткөрүп берүү убактысына байланыштуу бир аз туура эмес.

Муну бир азга ойлонуп көрүңүз.

AI системасы жана циклдеги адам заводдо чоң масштабдагы машинаны иштетүүнү камтыган реалдуу убакыт тапшырмасынын үстүндө чогуу иштеп жатат дейли. AI техниканын чыңдап баратканын аныктайт. AI башкарууну уланткандын ордуна, AI башкарууну күтүүсүздөн адамга өткөрүп берет. Бул заводдун техникасы тездик менен таза баш аламандыкты көздөй баратат жана адам түзөтүүчү иш-аракеттерди жасоого убакыт жок.

AI ысык картошканы адамдын колуна тапшырды жана адамды чыныгы ысык картошка менен тыгып койду, ошондуктан адам баласы менен күрөшүүгө мүмкүн болбой калды. Тег, сенсиң, бала кезинде тег оюндарын ойногондо эски линияга барат. Адамды башаламандык менен белгилейбиз.

Баскетбол оюну жөнүндөгү менин мисалым сыяктуу.

Эмне үчүн AI өткөрүп берүүнү жасады?

Адам күтүлбөгөн жерден баскетбол тобун берип, анан эмне үчүн мындай кылганы жөнүндө жапайы кол булгалагандан айырмаланып, биз адатта AI программалоосун карап чыгып, AIнын мындай ысык картошка тапшыруусуна эмне себеп болгонун биле алабыз.

AI иштеп чыгуучусу AI чындап эле жаман абалга туш болгондо, AI циклдеги адамга башкарууну тапшырышы керек деп алдын ала чечкен болушу мүмкүн. Бул толугу менен акылга сыярлык жана жөндүү көрүнөт. Адам талаада "мыкты оюнчу" болушу мүмкүн. Адамдар өздөрүнүн когнитивдик мүмкүнчүлүктөрүн кандай гана көйгөй болбосун чечүү үчүн колдоно алышат. AI, балким, программалоонун чегине жетти жана кырдаалда ал жасай турган башка эч нерсе жок.

Эгерде AI бир мүнөт калганда өткөрүп берүүнү техниканын ишке киришине чейин аткарган болсо, балким, бир мүнөт баш ийүү жетиштүү, ал циклдеги адам нерселерди оңдой алат. AI тапшырууну үч секунда калганда жасады дейли. Сиздин оюңузча, адам ошол убакыт аралыгында реакция кыла алабы? Мүмкүн эмес. Кандай болгон күндө да, иштин чоо-жайын азыраак кылуу үчүн, циклдеги адамга өткөрүп берүү бир нече наносекунддар калганда ишке ашты дейли (наносекунд секунданын миллиарддан бири, салыштырмалуу көздүн узундугу 300 миллисекундга созулат).

Эгерде AI ысык картошканы кандайдыр бир ачык-айкын иш-аракеттерди жасоо үчүн жөн гана кичинекей секундалар менен тапшырса, циклдеги адам жетиштүү реакция кыла алабы?

Жок.

Өткөрүп берүү башкача көрүнгөндөн алда канча жалган.

Чындыгында, оор абалга келгенде кол салуу эч кандай жакшылыкка алып келбейт. AI адамды эчкиге айлантты.

Кээ бир AI иштеп чыгуучулар AI ойлоп табууда бул жөнүндө ойлонушпайт. Алар (туура эмес) убакыттын чечүүчү фактор экенин эске алышпайт. Алардын бардыгы кыйынчылыкка жеткенде өткөрүп берүүнү программалоону тандашат. AI конструктивдүү кыла турган эч нерсе калбай калганда, топту адам оюнчусуна ыргытыңыз.

AI иштеп чыгуучулары AI коддоо учурунда бул жөнүндө эч кандай терең ойлонбой коюшу мүмкүн, анан алар муну жарыкка алып келген тестирлөөдөн өтпөй калуу менен көп учурда эки эсе ийгиликсиз болушат. Алардын сыноолору көрсөткөндөй, AI "милдеттүү түрдө" AI чегине жеткенде өткөрүп берген. Voila, AI жакшы жана барууга даяр деп болжолдонууда. Сыноо ошол көзгө көрүнгүс жана мүмкүн эмес абалга коюлган чыныгы адамды камтыган эмес. Бул көз ачып жумганча акыркы көз ирмемде, же чындыгында акыркы учурдан өткөндө, аларга аз же эч кандай жакшылык алып келбегенине нааразы болушу мүмкүн болгон туура тестирлөө процесси болгон эмес.

Албетте, кээ бир AI иштеп чыгуучулар акылмандык менен, бул кыйынчылыктын түрүн кылдаттык менен карап чыгышат.

Табышмактын үстүнөн ой жүгүрткөндөн кийин, алар баары бир AI ушундай иш-аракет кылууга программалай беришет.

Неге?

Анткени алардын акылында жок дегенде башка кыла турган эч нерсе жок. Баары ишке ашпай калганда, адамдын колун башкаруу. Балким, бир керемет болот. Негизгиси, бул AI иштеп чыгуучусун тынчсыздандырбайт жана алар адамга баш аламандык менен күрөшүүгө акыркы мүмкүнчүлүк берип жатышат. AI иштеп чыгуучусу андан кийин эмне болуп кетсе, алардын колун жууйт.

Мен AI иштеп чыгуучулар бул ысык картөшкө дизайндарынын жалгыз иштеп чыгуучулары эмес экенин тактагым келет. Бул үчүн үстөлгө келген бир топ башка кызыкдар тараптар бар. Балким, спецификацияларды жана талаптарды талдоо жүргүзгөн системалык аналитик AI эмне кылышы керек деп айткан. Тартылган AI иштеп чыгуучулар AIди ошого жараша жасашты. AI долбоорунун менеджери муну ойлоп тапкан болушу мүмкүн. AIнын өнүгүшүн көзөмөлдөгөн жетекчилер жана жетекчилик муну ойлоп табышы мүмкүн.

AI иштеп чыгуунун бүткүл жашоо циклинде ар бир адам ысык картошканын ушул эле дизайнын алдыга жылдырышы мүмкүн. Кимдир бирөө байкадыбы, аны так айта албайбыз. Эгер алар байкап калышса, анда алар каршы чыккандар деп белгиленип, четке кагылышы мүмкүн. Башкалар бул маселеге көңүл бурушу мүмкүн, бирок алар анын кесепеттерин түшүнүшкөн жок. Алар бул алардын чөйрөсүнө кирбеген техникалык бир аздык деп ойлошту.

Мен "себептердин" бул формалдуу эмес тизмесине алда канча жаман мүмкүнчүлүктү кошом.

AI ысык картошка синдрому кээде атайылап колдонулат, анткени AI жасагандар өздөрүнүн жалындуу дооматтарын ишеничтүү четке кагууну каалашкан.

Жомоктун бул бөлүгүнө даярданыңыз.

Заводдун техникасы кыйроого учураганда, болгон окуяга ким жооптуу экени тууралуу көп сөз болот. Техниканы иштетүү жагынан, бизде AI системасы бар болчу жана бизде муну жасаган адам бар болчу. Бул биздин эки баскетболчубуз, метафоралык түрдө.

Сааттын жебеси азайып, техника кабоомдун алдында турган. Айталы, сиз жана биз AI циклдеги адамга өткөрүп бергенин билебиз, муну адам кырсыкты оңдоо же болтурбоо үчүн жетиштүү чара көрүү үчүн жетишсиз убакыт калтырды. Бул эмне болгонун башка эч ким түшүнбөйт.

AI жасаган фирма кандай болгон күндө да алар күнөөлүү эмес экенин дароо жарыялай алат, анткени адам башкаруучу. Алардын кемчиликсиз жазууларына ылайык, AI кабум учурунда көзөмөлгө алынган эмес. Адам болгон. Демек, адам күнөөлүү экени ачык эле көрүнүп турат.

Бул ачык ырастоодо AI компаниясы негизинен калп айтып жатабы?

Жок, алар чындыкты айтып жатышат окшойт.

Алар AI көзөмөлдөбөйт деп ишенесизби деген суроого, компания AI такыр башкарган эмес деп катуу жана сыймыктануу менен жарыялайт. Алар бул ырастоонун далилин документтештирип алышкан (AI окуянын журналын сактаган деп ойлошот). Чындыгында, AI компаниясынын жетекчилери бул учурда кимдир бирөө алардын актыгына шек келтирет деп жийиркенип, каштарын көтөрүшү мүмкүн. Алар AI болгон деп ыйык антына ант берүүгө даяр болор эле жок көзөмөлдө. Адамдын башкаруусу болгон.

Бул канчалык адаштыруучу экенин көрүп жатасыз деп ишенем.

Ооба, адам башкарууга берилген. Теориялык жактан алганда, адам башкаруучу болгон. AI мындан ары башкара албай калды. Бирок жеткиликтүү убакыттын жана билдирүүнүн жоктугу бул өтө бош дооматка айлантат.

AI жасоочунун көз карашы боюнча, мунун кооздугу, сунуш кылынган дооматтарга каршы чыга алган адамдар аз. AI жаратуучусу окуянын журналдарын чыгарбашы мүмкүн. Мындай кылуу бурмаланган кырдаалды алып салышы мүмкүн. Журналдар Интеллектуалдык менчик (IP) же башка менчик жана купуя мүнөзгө ээ деп ырасталат. Фирма, кыязы, журналдар көрсөтүлсө, бул алардын AIнин жашыруун соусун көрсөтөт жана алардын баалуу ИМди жок кылат деп ырасташат.

Байкуш адамдын абалын элестетип көргүлөчү. Ар кимдин баарын күнөөлөп жатканына таң калып жатышат. AI "туура кылды" жана башкарууну адамга өткөрүп берди. Бул спецификацияларда айтылган нерсе болушу мүмкүн (дагы бир жолу, спецификациялар убакытты жана техникалык-экономикалык факторлорду эске албагандыктан, жараксыз болгон). Чыгарыла элек, бирок AI жаратуучусу темир менен капталган журналдар адамга AI тарабынан башкаруу берилгендигин тастыктайт.

Сиз муну таң калган адамга карата аянычтуу слем-данк деп жарыяласаңыз болот, ал дээрлик сөзсүз кулап калат.

Болгон окуянын чындыгы сотко өткөндө гана ачыкка чыгат деген божомол бар. Эгер кыраакы юридикалык биглдер концерттин бул түрүн билишсе, алар журналдарды мыйзамдуу түрдө алууга аракет кылышат. Алар журналдарды чечмелөө үчүн эксперттик күбөнү (мен маал-маалы менен кылганмын) алышы керек болчу. Жалгыз журналдар жетишсиз болушу мүмкүн. Журналдар такталып же өзгөртүлүшү мүмкүн, же деталдарды так көрсөтпөө үчүн атайын иштелип чыгышы мүмкүн. Ошентип, AI кодун да изилдеш керек болушу мүмкүн.

Ошол эле учурда, бул оор жана узакка созулган юридикалык ачылыш процессинин бардыгында, циклдеги адам чындап эле жаман көрүнөт. Массалык маалымат каражаттары ал адамды жоопкерчиликсиз, башын жоготуп, тырышчаактык менен аткара албай, толук жоопко тартылышы керек деп боёкчу. Мүмкүн, айлар же жылдар бою, бул процессте ал адам баары бир сөөмөйүн көрсөткөн адам бойдон кала берет. Жытты эч качан кетирбеши мүмкүн.

Ушул эле жагдай кайра кайталанышы мүмкүн экенин да эстен чыгарбаңыз. Жана кайра. AI жаратуучусу AIны өзгөрткөн жок деп ойлосок, акыркы мүнөттөрдө ушуга окшош жагдай пайда болгондо, AI аны эч убакта калтырбай өткөрүп берет. Мындай жагдайлар көп кайталанбайт деп үмүттөнсө болот. Ал пайда болгон сейрек учурларда, адам-жылы-укурук дагы эле ыңгайлуу күз жигит болуп саналат.

Бул шайтандын амалы.

Сиз AI жаратуучусу эч кандай туура эмес иш кылган жок деп ырастагыңыз келиши мүмкүн. Алар чындыкты айтып жатышат. AI башкаруудан баш тартты. Андан кийин адам көзөмөлгө алынган. Мына ошол фактылар. Муну талашуунун мааниси жок.

Кимдир бирөө акылдуу болуп, оор суроолорду береби, ошондой эле AI жаратуучусу бул суроолорго түз жооп береби, бул сейрек кездешүүчү нерсе.

Суроолор төмөнкүлөрдү камтыйт:

• Интеллектуалдык интеллект качан адамга өткөрүп берүүнү ишке ашырган?
• AI кандай программаланган негизде өткөрүп берди?
• Убактылуу адамга башкарууну колго алуу үчүн жетиштүү убакыт берилдиби?
• Бул кыйынчылыктар үчүн AI кантип иштелип чыккан жана иштелип чыккан?
• Жана башка.

Кандайдыр бир деңгээлде, ошондуктан AI этикасы жана этикалык AI абдан маанилүү тема болуп саналат. AI этикасынын осуяттары бизди сергек болууга түрткү берет. AI технологдору кээде технология менен, айрыкча жогорку технологияны оптималдаштыруу менен алек болушу мүмкүн. Алар сөзсүз түрдө чоң социалдык кесепеттерди эске алышпайт. AI этикасынын ой жүгүртүүсүнө ээ болуу жана аны AIны өнүктүрүү жана жайылтуу үчүн интегралдык түрдө жасоо ылайыктуу AI өндүрүү үчүн абдан маанилүү, анын ичинде AI этикасынын фирмалар тарабынан кабыл алынышын баалоо (балким таң калыштуу же ирониялык).

Жалпысынан AI этикасынын осуяттарын колдонуудан тышкары, бизде AIнын ар кандай колдонулушун жөнгө салуучу мыйзамдар болушу керекпи деген тиешелүү суроо бар. Жаңы мыйзамдар федералдык, штаттык жана жергиликтүү деңгээлдерде AI кантип иштелип чыгышы керектигинин диапазону жана мүнөзүнө тиешелүү. Мындай мыйзамдарды иштеп чыгуу жана кабыл алуу аракети акырындык менен жүрүп жатат. AI этикасы, жок эле дегенде, токтоолук катары кызмат кылат жана кандайдыр бир деңгээлде түздөн-түз ошол жаңы мыйзамдарга киргизилет.

Эсиңизде болсун, кээ бирөөлөр бизге AI камтыган жаңы мыйзамдардын кереги жок жана азыркы мыйзамдарыбыз жетиштүү деп ырасташат. Чынында, алар алдын ала эскертишет, эгерде биз бул AI мыйзамдарынын айрымдарын кабыл алсак, AIдагы жетишкендиктерди кыскартуу менен биз алтын казды өлтүрөбүз, бул чоң социалдык артыкчылыктарды берет.

Бул олуттуу талкуунун дал ушул бөлүгүндө, мен сиз бул теманы чагылдыра турган кошумча иллюстративдик мисалдарды каалайсыз деп ишенем. Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү багыттардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу AI Hot Potato синдрому жөнүндө бир нерсени жарыктандыратбы, эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Тактап айтканда, чыныгы өзүн-өзү башкарган унаалар AI унааны толугу менен өз алдынча айдаган унаалар болуп саналат жана айдоо тапшырмасы учурунда эч кандай адам жардамы жок.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлде чыныгы өзүн-өзү башкара турган унаа азырынча жок жана биз буга жетүү мүмкүнбү же жокпу, же ал жакка жетүү үчүн канча убакыт талап кылынарын азырынча билбейбиз.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзүн башкарган унаалар жана AI ысык картошка синдрому

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Бул мен айтып жаткан нерсенин негизинде жетиштүү эскертүүлөрдү берет деп үмүттөнөм.

Толугу менен автономдуу унаалар үчүн AI менен адамдын ортосунда өткөрүп берүү мүмкүнчүлүгү жок болушу мүмкүн, анткени циклде адам жок болушу мүмкүн. Бүгүнкү күндөгү өзүн-өзү башкара турган унаа жасоочулардын көбүнүн умтулуусу – адам айдоочусун айдоо милдетинен толугу менен алып салуу. Унаада адам жете ала турган башкаруу элементтери да болбойт. Мындай учурда, адам айдоочу, эгерде бар болсо, айдоо милдетине катыша албайт, анткени аларда айдоо башкаруу элементтери жок.

Кээ бир толугу менен автономдуу унаалар үчүн, кээ бир конструкциялар дагы эле адамдын айлампасында болушуна мүмкүндүк берет, бирок адам жеткиликтүү болбошу же айдоо процессине таптакыр катышышы керек эмес. Демек, эгер адам кааласа, адам айдоого катыша алат. Эч кандай учурда AI адамга айдоо тапшырмаларын аткарууда көз каранды эмес.

Жарым автономдуу унааларда адамдын айдоочусу менен AI ортосунда кол кармашуу бар. Кээ бир конструкциялар үчүн, адамдын айдоочусу айдоо башкаруусун толугу менен колго алып, AIнын айдоодо катышуусун токтото алат. Эгерде адам айдоочу AIны айдоо ролуна калыбына келтирүүнү кааласа, алар муну жасай алышат, бирок бул кээде адамды айдоо башкаруусунан баш тартууга мажбурлайт.

Жарым автономдуу операциянын дагы бир түрү адам айдоочусу менен AI бир командада иштешин талап кылат. AI айдап баратат, ал эми адам айдайт. Алар чогуу айдап баратышат. AI адамга ылайыктуу болушу мүмкүн. Адам AIга баш ийиши мүмкүн.

Кээ бир учурда, AI айдоо системасы эсептөө жолу менен өзүн-өзү башкара турган унаа жараксыз абалга келип жатканын жана автономдуу унаа кырсыкка учурап жатканын аныкташы мүмкүн.

Башкача айтканда, кээ бир эксперттер өзүн-өзү башкарган унаалар кыйроого туруштук бере албайт деп айтып жүрүшөт, бул таза болбогон сөз жана ачуу жана туура эмес нерсе, менин чагылдыруума караңыз. бул жерде шилтеме.

Кагылышуу же автокырсыкка карай бара жаткан өзүн-өзү башкарган унаанын сценарийин улантуу менен, AI айдоо системасы айдоо башкаруусун адам айдоочусуна өткөрүп берүү үчүн программаланган болушу мүмкүн. Эгерде адам айдоочусу качуу аракетин көрүүгө жетиштүү убакыт болсо, бул AI үчүн акылга сыярлык жана туура иш болушу мүмкүн.

Бирок AI бир секундадан бир аз убакыт калганда өткөрүп берүүнү аткарды дейли. Адамдын айдоочусунун реакция убактысы адекваттуу жооп бере тургандай ылдам эмес. Андан тышкары, эгерде адам укмуштуудай ылдам болсо, анда кыйроого чейин чектелген убакыттын ичинде ишке ашырыла турган эч кандай жашоодон качуу аракеттери жок. Бул эки нерсе: (1) адам айдоочусу үчүн чара көрүү үчүн убакыттын жетишсиздиги, (2) адам айдоочу тарабынан иш-аракет мүмкүн болсо, берилген жетишсиз убакыттын ичинде иш-аракетти аткарууга мүмкүн болгон убакыттын жетишсиздиги.

Жалпысынан алганда, бул менин баскетбол ызы-чуусунун абалы жана башаламан сценарийге айланган заводдун техникасы жөнүндө мурунку талкуума окшош.

Буга карасанатай ингредиентти кошолу.

Автоунаа өндүрүүчүсү же өзүн-өзү айдаган технологиялык фирма алардын паркында болуп жаткан ар кандай автокырсыктарга дуушар болгусу келбейт. Айдоочу AI системасы адамдын айдоочусу кыйынчылыкта кандайдыр бир иш-аракет кылууга жетиштүү убакыт бар-жокпу, ага карабастан башкарууну дайыма адам айдоочусуна өткөрүп берүү үчүн программаланган. Качан ушундай жол кырсыгы катталса, автоөндүрүш же өзүн-өзү айдаган технологиялык фирма адам айдоочусу башкарууда болгон, ал эми AI башкарган эмес деп ачык айта алат.

Алардын AI айдоо системалары боюнча тажрыйбасы мыкты окшойт.

Бул автокырсыктарга AI айдоо системасы бир жолу да "күнөөлүү" эмес. Дайыма ошол каргашалуу айдоочулар жолдон көздөрүн албай калышат. Биз бул бланканы жутуп алабыз жана так AI эч качан жаңылбайт деп ишенебиз. Биз адам айдоочулары шалаакы жана тонналаган каталарды кетирет деп ишенишибиз мүмкүн (биз тажрыйбабыздан билебиз). Логикалык жыйынтыкка ылайык, адам айдоочулар күнөөлүү болушу керек жана AI айдоо системасы толугу менен күнөөсүз.

Кээ бир өзүн-өзү айдоо жактоочулары бул мүнөздөмөгө капа болордон мурун, келгиле, адам айдоочусу күнөөлүү болушу мүмкүн экенин жана алар AIдан айдоо башкаруусун алуу сыяктуу тезирээк чараларды көрүшү керек экенин моюнга алалы. Айдоочу AI башкарууну өткөрүп бергенде, адам айдоочу олуттуу бир нерсе жасашы мүмкүн. Жана башкалар.

Бул жерде көңүл AI унаанын айдоочусу деп эсептелген жагдайларга бурулду, анан күтүлбөгөн жерден жана адам айдоочу эмне кыла аларына анча көңүл бурбастан, ысык картошканы адам айдоочусуна ыргытып жиберет. Ушундан улам көптөр жарым автономдуу унаалардын кош айдоо ролуна тынчсызданышат. Рулда айдоочулар өтө көп деп айтышыңыз мүмкүн. Максаты, рулда адамдын кереги жок жана AI ар дайым унааны айдап турган толугу менен автономдуу унааларга ээ болуу менен маселени чечүү керек окшойт.

Бул AI айдап баратканда эмне же ким жооп берет деген союздаш суроону туудурат, буга мен өзүмдүн колонкаларымда көп жолу кайрылдым, мисалы бул жерде шилтеме жана бул жерде шилтеме.

жыйынтыктоо

Жарым автономдуу унаалардын катышуусундагы автокырсыктарды укканда же окуганда этият болушубуз керек. Алардын AI айдоо системасы кемчиликсиз рекордго ээ деп жарыялоо менен бизди алдаганга аракет кылгандардан этият болуңуз. дын айлакер амалы AI ысык картошка синдрому аралашмада болушу мүмкүн.

Бул маселелерде айлакер болууга аракет кылган компаниялар үчүн, балким, Авраам Линкольндун атактуу саптарын жүрөгүбүзгө жакын сактасак болот: «Сиз бардык адамдарды кээ бир убакта жана кээ бир адамдарды ар дайым алдай аласыз, бирок сиз алдай албайсыз. бардык адамдар ар дайым».

Мен бул жерде экрандын артына катылган жана кээде капоттун астына коюлган AI сыйкырын ачып берүүгө аракет кылдым, мен аны көбүрөөк адамдар үчүн түшүндүрүп бердим. эркин эмес, көбүрөөк алданып калуу.