AI этикасы жана AIдагы өзүн-өзү аңдап билүү аракети

Сиз өзүңүздү билесизби?

Мен ишенем деп ишенет элем.

Кеп, имиш, биздин бир нече адам өзгөчө өзүн-өзү билет. Өзүн-өзү аңдап билүүнүн диапазону же даражасы бар жана биз бардыгыбыз өзүбүздү канчалык кылдаттык менен таанып-билгенибиз ар кандай. Сиз өзүңүздү толугу менен өзүңүздү билем деп ойлошуңуз мүмкүн жана анча-мынча болсо да ошондой. Сиз өзүн-өзү билип, бул сиздин психикалык абалыңыз экенин түшүнөсүз.

Ошол эле учурда, спектрдин эң жогорку бөлүгүндө, сиз өзүңүздү толугу менен билесиз жана чындыгында алар келгендей эле өзүн-өзү билет деп ишене аласыз. Силер үчүн жакшы.

Бул тууралуу айта турган болсок, өзүн-өзү аңдап билүүнүн кандай пайдасы бар?

Жылы жарыяланган изилдөө боюнча Harvard Business Review (HBR) Таша Еурихтин айтымында, сиз жакшыраак чечим кабыл ала аласыз, чечимдериңизге көбүрөөк ишенесиз, баарлашуу жөндөмүңүз күчтүүрөөк жана жалпысынан натыйжалуураак ("Өзүн-өзү аңдоо деген эмне (жана кантип)" деген макалага ылайык Аны өстүрүү)." Бонустук фактор - бул өзүн-өзү түшүнгөн адамдар алдамчылыкка, уурулукка же калп айтууга азыраак ыкташат деп айтышат. Бул жагынан алганда, шылуун же шылуун болуу менен бирге эки эселенген нерсе бар. жакшы адам болууга жана өзүңүздүн башка адамдарыңызды көркүнө чыгарууга умтулуңуз.

Өзүн-өзү аңдап билүү жөнүндөгү бул сөздөрдүн баары бир аз айкын суроону туудурат, тактап айтканда, өзүн-өзү аңдап билүү деген сөз айкашы чындыгында эмнени билдирет. Комплекс жөнүндө көптөгөн ар кандай аныктамаларды жана интерпретацияларды оңой таба аласыз жана биз өзүн-өзү таанууну талап кылган былжырлуу түзүлүш деп айта алабыз. Кээ бирөөлөр өзүн-өзү аңдап билүү өзүңүздү көзөмөлдөө, өзүңүздүн эмне кылып жатканыңызды билүү дегенди айтып, маселени жөнөкөйлөштүрүшөт. Сиз өз оюңузду жана иш-аракеттериңизди жакшы билесиз.

Кыязы, адам өзүн-өзү аңдабай турганда, эмне кылып жатканын, эмне үчүн экенин түшүнбөйт, ошондой эле башка адамдар алар жөнүндө эмне деп айтып жатканын түшүнбөй калат. Ушундай адамдарды жолуктурганыңа ишенем.

Кээ бир адамдар бул жерде өздөрү эмне кылып жатканын билишпей эле басып жүргөндөй көрүнөт жана башкалардын алар жөнүндө айткандарын да сезишпейт. Менин оюмча, сиз алар назик сыныкчылар бутикиндеги башын ылдый заряддаган букадай деп талаша аласыз. Адатта, биз бука эмне кылып жатканын билбейт жана башкалардын көз карашына кайдыгер бойдон кала берет деп ишенебиз, эгерде башкалар акылы жок жандыкты физикалык жактан маневр кылууга же короого аракет кылбаса.

Бул өзүн-өзү аңдоо бир аз рекурсивдүү болушу мүмкүн деп айтылат.

Бул рекурсияны көрсөтүү үчүн бир мисал келтирейин. Сиз смартфонуңуздан мышыктын видеосун көрүүнүн ортосунда турасыз (баары муну жасайт окшойт). Кээ бир адамдарда ошол сүйүктүү мышыктардын укмуштуудай жүрөк жылытуучу кылыктарынан башка эч кандай айкын ойлору жок болот. Ошол эле учурда, өзүн-өзү түшүнгөн ар бир адам, алар мышыктын видеосун көрүп жатканын билишет. Алар ошондой эле алардын айланасындагылар мышыктын видеосун көрүп жатышканын билиши мүмкүн.

Байкасаңыз, сиз өзүңүздү таанып-билүүгө жана дагы эле белгилүү бир негизги иш-аракетке аралаша аласыз. Бул учурда негизги иш - мышыктын видеосун көрүү. Экинчиден, жана ошол эле учурда, сиз чындыгында мышыктын видеосун көрүп жатам деп ойлой аласыз. Ошондой эле сиз мышыктын кызыктуу видеосун көрүп жатканыңызда башкалар сизди байкап жатат деген ойду көтөрө аласыз. Сиз мышыктын видеосун көрүп жатканыңызды (же жаңы эле көрүп жатканыңызды) өз-өзүнчө ой жүгүртүү үчүн, мисалы, мышыктын видеосун көрүүнү токтотуу сыяктуу бир ишти токтотуунун кажети жок. Бул ойлор бири-бирине параллелдүү болушу мүмкүн.

Кээде өзүбүздүн аң-сезимибиз бизди негизги психикалык иш-аракеттен четтетип же жок дегенде үзгүлтүккө учуратышы мүмкүн. Мүмкүн, мышыктын видеосун көрүү жөнүндө ойлонуп жатып, видеонун өзүнө гана көңүл топтоо үчүн акылыңыз жарым-жартылай четтеп кетет. Сиз көргөн, бирок толук түшүнүүдөн акыл-эси менен алаксып калган бөлүгүн кайра карап чыгуу үчүн видеону артка түрдөөнү тандайсыз. Өзүн-өзү аңдоо сиздин негизги психикалык активдүүлүгүңүздү бузду.

Макул, биз азыр рекурсивдүү аспектилердин пайда болушуна даярбыз.

Даярсыңбы?

Сиз мышыктын видеосун көрүп жатасыз. Сиздин өзүн-өзү аңдооңуз сизге мышыктын видеосун көрүп жатканыңызды жана сиз видеону көрүп жатканда башкалар да көрүп жатканын кабарлап жатат. Мына ушундай статус-кво.

Сиз кийинки кошумча психикалык секирик жасайсыз. Сиз өзүңүздүн аң-сезимиңиз жөнүндө ойлоно баштайсыз. Сиз өзүңүздүн өзүңүздүн аң-сезимиңиз менен алектенип жатканыңызды билесиз. Бул кандай болот: Мен мышыктын видеосун көрүү жөнүндө ойлонуп жатамбы? Бул өзүн-өзү аңдап билүүнүн дагы бир катмары. Башка өзүн-өзү аңдап билүүнүн үстүнө өзүн-өзү аңдоо рейтинги.

Бул жол бою таш бакалар деген илгертен айтылган кеп бар. Өзүн-өзү аңдоо көрүнүштөрү үчүн сиз төмөнкүлөр болушу мүмкүн:

• Өзүңдү билбейсиң
• Өзүңдү өзүң бил
• Өзүңдүн өзүңдү өзүң аңдап билүүңдү
• Өзүңдүн өзүңдүн өзүңдүн өзүңдүн аң-сезимиң
• Ad Infinitum (б.а., ж.б.)

Сиз, балким, мен буга чейин өзүн-өзү аңдап билүүнүн эки негизги категориясы бар экенин тымызын белгилеп жатканымды түшүнгөн чыгарсыз. Конкреттүү бир теория биздин ички абалына көңүл бурган ички өзүн-өзү аң-сезимибиз бар экенин, ошондой эле бизди көрүп жаткан айланабыздагы адамдардын биз жөнүндө кабылдоолорун өлчөөгө жардам берген тышкы өзүн-өзү аңдообуз бар деп болжолдойт.

HBR макаласына ылайык, бул жерде өзүн-өзү аңдоонун теорияланган эки түрүнүн кыскача сүрөттөлүшү: "Биринчи, биз аны атаганбыз. ички өзүн-өзү аңдоо, өзүбүздүн баалуулуктарыбызды, кумарларыбызды, умтулууларыбызды, айлана-чөйрөбүзгө, реакцияларга (анын ичинде ойлор, сезимдер, жүрүм-турумдар, күчтүү жана алсыз жактары) жана башкаларга тийгизген таасирибиз канчалык айкын көрүнүп турат. Ал эми экинчиси: «Экинчи категория, тышкы өзүн-өзү аңдоо, жогоруда саналып өткөн ошол эле факторлордун негизинде башка адамдардын бизге кандай карашын түшүнүүнү билдирет. Биздин изилдөөлөр көрсөткөндөй, башкалардын аларды кандай көрөрүн билген адамдар боорукердик көрсөтүүдө жана башкалардын көз карашын кабыл алууда көбүрөөк чебер болушат».

Ыңгайлуу эки-эки матрица же төрт чарчы ички жана тышкы өзүн-өзү аңдоо жогорудан төмөнгө чейин өзгөрөт деп ырастоо менен алынышы мүмкүн жана сиз эки категорияны бири-бирине каршы жупташа аласыз. HBR изилдөөсү бул төрт өзүн-өзү аңдоо архетиптеринин бири экениңизди көрсөтүп турат:

• Интроспектор: Төмөн тышкы өзүн-өзү аңдоо + жогорку ички өзүн-өзү аңдоо
• Издөөчү: Тышкы өзүн-өзү аңдоо төмөн + Ички өзүн-өзү аңдоо
• Сураныч: Жогорку тышкы өзүн-өзү аңдоо + төмөн ички өзүн-өзү аңдоо
• Кабардар: Жогорку тышкы өзүн-өзү аңдоо + жогорку ички өзүн-өзү аңдоо

Чокусу тышкы өзүн-өзү таанып-билүүнүн эң жогорку тепкичинде болуу жана ички өзүн-өзү аңдап билүүнүн эң жогорку тепкичинде туруудан турган “Билүү” архетипи болмок. Тактап айтканда, сиз бул мактанган позага сөзсүз түрдө туруктуу түрдө жете албайсыз. Сиз ички жана тышкы өзүн-өзү аңдоо чөйрөлөрүнүн арасында бийик жана төмөн болуу ортосунда алдыга жана артка жыла аласыз. Бул күндүн убактысына, сиз кабылган кырдаалга жана башка маанилүү факторлорго жараша болот.

Эми биз өзүн-өзү аңдап билүүнүн кээ бир негизги элементтерин жылуу мамиле менен карап чыккандан кийин, биз муну этикалык жүрүм-турум темасына байланыштырууга аракет кылсак болот.

Өзүн-өзү таанып-билүү жөнүндө адаттагыдай доомат, сиз өзүңүздү таанып-билгениңизде жогоруда болуу ыктымалдыгы жогору. Бул, жогоруда айтылгандай, сиз уурдоо, алдамчылык жана калп айтуу сыяктуу терс этикалык жүрүм-турумдарга азыраак жакын экениңизди билдирет. Бул тенденциянын жүйөсү сиздин өзүн-өзү аңдооңуздун активдүүлүгү сиздин жүрүм-турумуңуз жагымсыз же этикага туура келбегендигин түшүнүүгө түрткү берет. Этикага туура келбеген ылайлуу сууларга кирип баратканда өзүңүздү кармап эле калбастан, кайра сыртка чыгып, кургак жерге (этикалык аймактын ыйыктыгы) ыктайсыз.

Сиздин өзүн-өзү түшүнүү өзүн-өзү башкарууга жардам берет.

Контраст, кыязы, өзүн-өзү аңдап билүү аз же такыр жок болгондо болот, бул кимдир бирөө этикага туура келбеген жүрүм-турумга ыктаганын байкабай турганын көрсөтүп турат. Мындай билбеген адам терс иш кылып жатканын түшүнбөй калышы мүмкүн деп ойлосоңуз болот. Сындыргычтар дүкөнүндөгү бука сыяктуу, алардын көңүлүн бир нерсе бурмайынча, алар өзүн өзү жөнгө салышы күмөн.

Баса, муну баары эле сатып ала бербейт. Кээ бирөөлөр өзүн-өзү аңдап билүү этикага туура келбегендиктен эле оңой колдонулушу мүмкүн деп ырасташат. Мисалы, жамандык кылган адам өзүн толук түшүнүп, туура эмес иш кылып жатканына ыраазы болушу мүмкүн. Алардын өзүн-өзү аңдоосу аларды дагы чоңураак жана чоңураак жаман жоруктарга ого бетер катуу түртөт.

Бул жерде түздөн-түз көзгө көрүнгөндөн көбүрөөк булут бар. Кимдир бирөө өзүн абдан жакшы билет дейли, бирок алар тигил же бул коомдун же маданияттын этикалык адептерин билишпейт. Ушундайча, алар өзүн-өзү билет деп айтылганына карабастан, эч кандай этикалык жетекчиликке ээ эмес. Же, эгер кааласаңыз, ал адам этикалык осуяттарды билет жана алардын аларга тиешелүү экенине ишенбейт. Алар өздөрүн уникалдуу же кадимки этикалык ой жүгүртүүнүн чегинен тышкары деп эсептешет.

Тегерек айланып баратат.

Өзүн-өзү аңдоо эки миздүү этикага багытталган кылыч катары чечмелениши мүмкүн, кээ бирлери кызуу баса белгилешет.

Азырынча, келгиле, өзүн-өзү аңдап билүү жана бизди этикалык жүрүм-турумга багыттоо же түртүүдөн турган бактылуу жүз версиясына баралы. Калганынын баары бирдей болгондон кийин, биз канчалык өзүн-өзү аңдап билүү канчалык көп болсо, сиз ошончолук этикалык жактан көбүрөөк ыктайсыз деген уятсыз божомолду жасайбыз. Муну каалоо, албетте, жагымдуу жана шыктандыруучу көрүнөт.

Келгиле, тиштерди алмаштырып, сүрөткө Жасалма интеллектти (AI) киргизели.

Биз бул талкууда бардык чыр-чатактарды Этикалык AIнин өнүгүп келе жаткан чөйрөсү менен байланыштыруунун этегинде турабыз, ошондой эле AI этикасы деп да белгилүү. Менин AI этикасын үзгүлтүксүз жана кеңири чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Этикалык AI түшүнүгү AI пайда болушуна чейин этика жана этикалык жүрүм-турум чөйрөсүн бириктирүүнү талап кылат. Сиз, албетте, теңсиздикке жана ар кандай көз караштарга толгон AI жөнүндө коңгуроолорду көтөргөн баш макалаларды көрдүңүз. Мисалы, AI негизиндеги бетти таануу тутумдары, адатта, негизги Machine Learning (ML) жана Deep Learning (DL) жабдуулары кандайча даярдалган жана талаада иштетилгендигинин натыйжасында расалык жана гендердик дискриминацияны көрсөтүшү мүмкүн деген кооптонуулар бар (менин анализимди караңыз). саат бул шилтемени бул жерде).

Аракет кылуу жана токтотуу же жок эле дегенде, жыпар жыттуу шашууну басаңдатуу AI For Bad, кокусунан же кээде атайылап жаман иш-аракет кылууга калыптанган AI тутумдарынан тургандыктан, жакында AIди иштеп чыгууда жана колдонууда этикалык осуяттарды колдонуу шашылыш болуп калды. Негизги максат – AI иштеп чыгуучуларына, ошондой эле AI курган же талаада иштеген фирмаларга жана AI тиркемелеринен көз каранды болгон фирмаларга этикалык жетекчиликти камсыз кылуу. Этикалык AI принциптеринин иштелип чыккан жана кабыл алынган мисалы катары, менин камтууумду караңыз бул жерде шилтеме.

Бул үч маанилүү суроону карап чыгуу үчүн ой жүгүртүү учурун бериңиз:

• Биз AI иштеп чыгуучуларына Этикалык AI принциптерин кабыл алып, ал көрсөтмөлөрдү иш жүзүндө колдонууга ала алабызбы?
• Биз AI жасаган же талаада иштеген фирмаларды да ошондой кыла алабызбы?
• Биз AI колдонгондорду этикалык AI аспектилерин билиши үчүн ала алабызбы?

Мен муну тартынбастан айтаар элем, бул чоң буйрук.

AI жасоодогу толкундануу AI этикасына көңүл буруунун ар кандай ойлорун жеңе алат. Жөн эле толкундануу эмес, акча табуу да бул теңдеменин ажырагыс бөлүгү. AI чөйрөсүндөгү кээ бир адамдар AI тутумдарын эшикке алып чыккандан кийин, Этикалык AI "материалдары" менен күрөшүүгө даяр экенин билгениңизге таң калышыңыз мүмкүн. Бул тез иштебей калууга жана туура жолго түшмөйүнчө тез-тез иштебей калууга ынануу үчүн типтүү техникалык мантра.

Албетте, этикалык жактан күмөндүү AIны жалпы коомчулукка түртүп жаткандар жылкыны сарайдан чыгарып жатышат. Алардын жарыялаган созулган идеясы бул AI For Bad ал күнүмдүк колдонууда болгондон кийин оңдолот, бул зыяндуу кеч, анткени ат мурунтан эле аң-сезимсиз чуркайт. Зыян кылышы мүмкүн. Ошондой эле AI колдонулуп жатканда эч нерсе оңдолбой же туураланбай калуу мүмкүнчүлүгү жогору. Көбүнчө шылтоо болуп саналат, бул учурда AI менен ойноо аны ого бетер начарлап кетиши мүмкүн, ансыз деле этикага жатпаган алгоритмдик чечимдерди кабыл алуу (ADM) толугу менен тайгалактан чыгып кетет.

AI куруп жаткандардын, AIны иштетип жаткандардын жана AI колдонуп жаткандардын акылында жаркыраган жана багыт берүүчү жарык катары этикалык AI болуунун пайдалуулугун жана жандуулугун алуу үчүн эмне кылса болот?

деп жооп берет: Өзүн-өзү аңдоо.

Ооба, эгер адамдар AI менен кандайча иштешкени же аны менен өз ара аракеттенишээри жөнүндө көбүрөөк билишсе, бул алардын этикалык AI норма болушун каалашына болгон умтулуусун арттырышы мүмкүн деген түшүнүк. AI иштеп чыгуучулары жана AI системалары менен байланышкан компаниялар жөнүндө да ушуну айтууга болот. Эгерде алар эмне кылып жатканын өздөрүн жакшыраак билишсе, балким, алар AI этикасын көбүрөөк кабыл алышмак.

Логиканын бир бөлүгү, буга чейин айтылгандай, өзүн-өзү таанып-билүү этикалык жактан жакшыраак адам болууга тенденцияны сунуштайт жана ошондой эле этикалык жактан начар адам болуудан сактайт. Эгерде биз бул негизди уланта алсак, бул өзүн-өзү аңдап-түшүнүүгө көбүрөөк ыктаган AI иштеп чыгуучулар этикалык жүрүм-турумга ыкташат жана ошондуктан этикалык жактан туура AI өндүрүүгө ыкташат дегенди билдирет.

Бул сен үчүн өтө алыс көпүрөбү?

Кээ бирөөлөр кыйыр түрдө бир аз көп деп айтышат. Өзүн-өзү аңдап билүү, этикалык жактан адептүү болуу жана AIга этикалык осуяттарды колдонуунун ортосундагы байланыштардын өтө чоң чынжырын жутуп алуу кыйын болушу мүмкүн. Каршы аргумент - бул аракет кылуу зыян келтире албайт.

Скептиктер AI иштеп чыгуучусу өзүн-өзү билет жана этикалык жактан көбүрөөк ойлонушу мүмкүн деп айтышат, бирок алар бул психикалык лагерди Этикалык AI салттарына колдонууга сөзсүз түрдө секирик жасашпайт. Бул суроонун жообу, эгерде биз Этикалык AI маселелерин элге жарыялап, жайылта алсак, антпесе, анча-мынча көрүнгөн байланыш айкыныраак, күтүлгөн жана AI жасоого келгенде иштин стандарттуу ыкмасы болуп калышы мүмкүн.

Мен азыр бул дастанга бир бурулуш кошом деп жатам. Бурулуш башыңызды айлантып коюшу мүмкүн. Сураныч, жакшы отурганыңызды жана мен көрсөтө турган нерсеге даяр экениңизди текшериңиз.

Айрымдар биз Этикалык AIди түз AIнын өзүнө түзүшүбүз керек деп белгилешет.

Бул билдирүү сизди таң калтырышы мүмкүн. Аны таңгактан чыгаралы.

Программист AI тутумун түзүшү мүмкүн жана муну AI бир жактуулуктарды жана теңсиздикти камтууга жол бербөөгө аракет кылып, өзүнүн программалоочу өзүн-өзү аңдоосу менен жасай алат. Программалоону жөн эле айдап салбастан, иштеп чыгуучу алар жасаган мамиле AIда терс элементтердин талап кылынбаганына алып келер-келбесин суроо үчүн өз ийининен карап турат.

Эң сонун, бизде өзүн-өзү түшүнгөн, этикалык жүрүм-турумду кабыл алууга умтулган жана AI тутумун түзүүдө этикалык осуяттарды камтыган жарыкты көргөн AI иштеп чыгуучусу бар.

Этикалык AI үчүн жеңишке ээ болуңуз!

Баары жакшы, бирок бул жерде кийинчерээк болушу мүмкүн. AI талаага чыгарылып, күнүмдүк колдонууга киргизилет. AI бөлүгү учуп "үйрөнүүгө" жөндөмдүү болуу үчүн компонентти камтыган. Бул AI жаңы маалыматтарга жана баштапкы программалоонун башка аспектилеринин негизинде өзүн тууралай алат дегенди билдирет. Кыскача айтканда, бул AI сезимтал экенин билдирбейт. Бизде сезимтал AI жок. Биз жасайбыз деген баш макалаларга көңүл бурбагыла. Бизде акылдуу AI болобу же жокпу, эч ким айта албайт жана анын качан болоорун эч ким алдын ала айта албайт.

Биздин жомокко кайтып келсек, AI иштеп жатканда өзүн жакшыртуу үчүн атайын иштелип чыккан. Абдан ыңгайлуу түшүнүк. Программисттер тынымсыз өркүндөтүүгө аргасыз болбостон, алар AI программасына муну өзүнөн өзү жасоого мүмкүндүк берет (ооа, бул өзүңүз жумушсуз иштеп жатасызбы?).

AI дюйм дюймга чейин өзүн тууралап жаткан убакыттын ичинде, AI тутумуна өзүнүн өзгөртүү актылары менен ар кандай жийиркеничтүү теңсиздиктер жана бир жактуулуктар кирип жатат. Программист адегенде бул жагымсыз аспектилерди четке кагып турса, азыр алар AI тез эле жөнгө салынышынан улам түзүлүп жатышат. Тилекке каршы, бул ушунчалык тымызын көшөгө артында болушу мүмкүн, эч ким акылдуу эмес. Алгачкы толук тестирлөөдөн кийин AIга мурда жашыл жарык бергендер азыр AI чириген жолго түшкөнүн билишпейт. AI For Bad.

Бул жагымсыз пайданы болтурбоо же жок дегенде кармап калуунун бир жолу AIга этикалык AI кош текшерүүчүсүн куруу болуп саналат. AI ичиндеги компонент AIнын жүрүм-турумун көрүү жана этикага жатпаган ADM пайда боло баштаганын аныктоо үчүн программаланган. Андай болсо, компонент AI иштеп чыгуучуларына эскертүү жөнөтүшү мүмкүн же AI тутумун иштеткен фирмага ушундай кылышы мүмкүн.

Бул компоненттин өнүккөн версиясы AIны оңдоого аракет кылышы мүмкүн. Бул тууралоолорду тууралоо, келип чыккан этикага сыйбаган аспектилерди кайра тиешелүү этикалык параметрлерге айландыруу болмок. Сиз программалоонун бул түрү татаал экенин элестете аласыз. Ал адашып кетиши мүмкүн, балким, этикага сыйбаган нерсе терең этикага айланышы мүмкүн. Компонентти ишке киргизген жалган позитивдүү мүмкүнчүлүк жана ошого жараша нерселерди бузушу мүмкүн.

Эмнеси болсо да, бул кош текшерүүчү кантип иштей турганына батып отурбастан, биз бул тууралуу тайманбастык менен билдирүү жасайбыз. Сиз кандайдыр бир чектелген жол менен AI өзүн-өзү билет деп айтышыңыз мүмкүн.

Ооба, бул көптөр үчүн күрөшкөн сөздөр.

Дээрлик бардык адамдардын басымдуу ишеними - бүгүнкү AI өзүн өзү биле албайт. Толук токтоо, чекит. Биз сезгич АИге жеткенге чейин, ал качан же качан болоорун билбейбиз, өзүн-өзү тааныган AIнын эч кандай түрү жок. Адамга багытталган өзүн-өзү аңдоо маанисинде жок дегенде эмес. Болушу мүмкүн деп ойлобоңуз.

Мен, албетте, AI антропоморфизациялоодо этият болушубуз керек дегенге кошулам. Мен бир аздан кийин бул тынчсыздануу жөнүндө көбүрөөк айтам.

Ошол эле учурда, эгер сиз талкуу үчүн "өзүн-өзү таанып-билүү" баскычын ачык-айкын колдонууга даяр болсоңуз, анда AI эмне үчүн өзүн-өзү башкаруу деген жалпы түшүнүккө баш ийип жатканын түшүнө аласыз деп ишенем. маалымдуулук. Бизде AIнын бир бөлүгү бар, ал AIнын калган бөлүгүн көзөмөлдөп, AIнын калган бөлүгү эмне болуп жатканын карап турат. Калган AI чектен чыга баштаганда, мониторинг бөлүгү муну аныктоого аракет кылат. Андан тышкары, AI мониторинг бөлүгү же кош текшерүүчү AIнын калган бөлүгүн кайра тийиштүү тилкелерге бурушу мүмкүн.

Бул мышыктардын видеолорун көрүп, өзүңүздүн ушундай кылып жатканыңызды сезгениңизге окшош эмеспи?

Ага тааныш шакек бар.

Биз муну дагы да кеңейте алабыз. AI кош текшерүүчү компоненти AIнын калган бөлүгүнүн жүрүм-турумун байкоо үчүн гана программаланган эмес, ошондой эле AI колдонуп жаткандардын жүрүм-турумун белгилейт. AI колдонууда колдонуучулар кандай иштеп жатышат? Кээ бир колдонуучулар AI аларды басмырлап жаткандай кыжырдануусун билдирип жатышат дейли. AI кош текшерүүчүсү муну кабыл алышы мүмкүн, аны AIнын калган адашкандары жөнүндө дагы бир кызыл желек катары колдонушу мүмкүн.

Бул ички өзүн-өзү аңдоо жана тышкы өзүн-өзү аңдоо категорияларына алып келет.

AI кош текшерүүчүсү AIнын калган бөлүгү тынчсыздандырган деңиздерге баргандыгын аныктоо үчүн ички жана тышкы сканерлөөдө. Аныктоо желекти көтөрөт же өзүн-өзү оңдоонун күчүнө киришине себеп болот.

Дагы бир акылга сыйбаган кеңейтүүнү кошолу. Биз дагы бир AI кош текшергичти курабыз, ал негизги AI кош текшерүүчүсүн эки жолу текшерүү үчүн арналган. Эмне үчүн андай? Мейли, AI кош текшергичи солгундап же өз ишин аткара албай жатат окшойт дейли. Кош текшерүүчүнүн AI кош текшерүүчүсү бул бузулууну аныктоого жана ошого жараша керектүү чараларды көрүүгө аракет кылат. Өзүн-өзү аңдап билүүнүн рекурсивдүү табиятына кош келиңиз, кээ бирлери AI эсептөө системасында көрсөтүлгөндөй сыймыктануу менен айтышы мүмкүн.

Бул тууралуу сиздин орунуңуздун четинде тургандар үчүн, акыркы комментарий, эгер сиз AI тутумдарын "өзүн өзү билип" кылсаңыз, алар этикалык жүрүм-турумга тартылышы мүмкүн деп сунуштоого аракет кылабыз. Алар муну сезимтал негизде кылып жатышабы? Жок. Алар муну эсептик негизде жасап жатышабы? Ооба, ал адамдын жүрүм-туруму менен бирдей эмес экенин ачык айтышыбыз керек.

Эгер сиз өзүн-өзү аңдап билүү түшүнүгү аны эсептөө схемасына туура келтирүү үчүн туура эмес бурмаланып жатканы ыңгайсыз болсо, анда сиздин бул боюнча шектенүүлөрүңүз жакшы белгиленет. Бул түшүнүктү колдогон AI аракеттерин токтотушубуз керекпи, бул дагы бир ачык суроо. Жок дегенде, бул бизди AI жасай турган жакшы натыйжага алып баратат деп ишендире аласыз. Бул болуп жатканда, биз көзүбүздү чоң ачып алышыбыз керек.

Мунун баары кандай болорун көрүшүбүз керек деп ойлойм. Беш жыл, он жыл жана элүү жылдан кийин бул нерсеге кайтып келиңиз жана талаштуу маселе боюнча ой жүгүртүүңүз өзгөрдүбү, байкаңыз.

Мен бул теманы бир аз татаал текшерүү болгонун түшүнөм жана сиз күнүмдүк мисалдарды каалап жаткандырсыз. Менин жүрөгүмө жакын мисалдардын өзгөчө жана албетте популярдуу топтому бар. Көрдүңүзбү, менин AI боюнча эксперт катары, анын ичинде этикалык жана укуктук кесепеттерге байланыштуу, менден теманын бир аз теориялык табиятын оңой түшүнүү үчүн AI этикасынын дилеммаларын көрсөткөн реалдуу мисалдарды аныктоону суранышат. Бул этикалык AI туңгуюгун ачык көрсөткөн эң таасирдүү аймактардын бири AIга негизделген чыныгы өзүн-өзү башкаруучу унаалардын пайда болушу. Бул тема боюнча кеңири талкуулоо үчүн ыңгайлуу колдонуу учуру же үлгү катары кызмат кылат.

Бул жерде ойлонууга арзырлык бир суроо бар: AI негизделген чыныгы өзүн-өзү айдай турган унаалардын пайда болушу AI "өзүн-өзү аңдап билүүнүн" окшоштугуна байланыштуу кандайдыр бир нерсени жаркыратабы жана эгер ошондой болсо, бул эмнени көрсөтөт?

Мага суроону ачууга бир азга уруксат бериңиз.

Биринчиден, чыныгы өзүн-өзү башкаруучу унаага катышкан адам айдоочу жок экенин белгилей кетүү керек. Чыныгы өзүн-өзү айдай турган унаалар AI айдоо системасы аркылуу айдалат. Рулда айдоочунун кереги жок, унааны адам башкара турган шарт жок. Автономдуу унаалар (АВ) жана өзгөчө өзүн өзү башкарган унаалар тууралуу кеңири жана үзгүлтүксүз чагылдыруу үчүн, караңыз бул жерде шилтеме.

Мен чыныгы өзүн-өзү башкаруучу унааларга кайрылганда эмнени билдирерин дагы тактагым келет.

Өзүн өзү айдай турган автоунаалардын деңгээлин түшүнүү

Түшүндүрмө катары айтканда, чыныгы өзүн өзү башкаруучу автоунаалар - бул КТ унааны толугу менен өз алдынча айдайт жана айдоо учурунда адам жардамы болбойт.

Бул айдоочусу жок унаалар 4-деңгээл жана 5-деңгээл деп эсептелет (менин түшүндүрмөнү караңыз бул шилтемени бул жерде), ал эми адамдын айдоочусу айдоо аракетин биргелешип бөлүшүүнү талап кылган унаа адатта 2 же 3-деңгээлде каралат. Айдоо милдетин биргелешип аткарган унаалар жарым-жартылай автономдуу деп сыпатталат жана адатта ар кандай унааларды камтыйт. ADAS (Advanced Driver-Assistance Systems) деп аталган автоматташтырылган кошумчалар.

5-деңгээлдеги чыныгы өзүн-өзү айдаган унаа азырынча жок, ага жетүү мүмкүнбү же ага канча убакыт кетет дагы билбейм.

Ошол эле учурда, 4-деңгээлдеги аракеттер акырындык менен өтө тар жана тандалма коомдук жол сыноолорунан өтүү менен бир аз тартууга аракет кылууда, бирок бул сыноого уруксат берилиши керекпи же жокпу деген талаштар бар (биз бардыгыбыз экспериментте өмүр же өлүү гвинея чочкобузбуз) Биздин трассаларыбызда жана өтүүчү жолдорубузда болуп жаткандыктан, кээ бирлери айтышат, менин камтууумду караңыз бул шилтемени бул жерде).

Жарым автономдуу автоунаалар адамдык драйверди талап кылгандыктан, ал унаалардын түрүн кабыл алуу кадимки унааларды айдоодон айырмаланбайт, андыктан бул темада алар жөнүндө бир аз жаңылык бар (бирок, сиз көргөндөй) бир аздан кийин, кийинки пункттар негизинен колдонулат).

Жарым автономдуу автоунаалар үчүн, акыркы кездерде пайда болгон тынчсыздандыруучу аспект жөнүндө, айрыкча, 2-деңгээлдеги же 3-деңгээлдеги унаанын дөңгөлөгүндө уктап жаткан видеолорун жарыялап жаткан адамдардын айдоочуларына карабастан, коомчулукка алдын-ала эскертүү керек. , айдоочу жарым автономдуу унааны айдап баратып, алардын көңүлүн айдоо милдетинен алыстатат ​​деп ишендирүүдөн оолак болушубуз керек.

Автоматташтыруу 2 же 3 деңгээлге түшүп кетишине карабастан, автоунаа айдоо аракеттери үчүн сиз жооптуу тарапсыз.

Өзүн-өзү башкаруучу унаалар жана өзүн-өзү аңдоо деп аталган AI

4 жана 5-деңгээлдеги чыныгы өзүн-өзү айдаган унаалар үчүн айдоочулук милдетке тартылган адам болбойт.

Баардык жүргүнчүлөр жүргүнчүлөр болушат.

AI айдап бара жатат.

Тез арада талкуулоонун бир аспектиси бүгүнкү КТ айдоо тутумуна кирген КТнын сезимтал эместигине алып келет. Башка сөз менен айтканда, жасалма интеллект компьютердик программалоонун жана алгоритмдердин жамааты болуп саналат жана албетте, адамдар ойлогондой ой жүгүртө албайт.

Эмне үчүн бул AIга кошумча басым сезимтал эмес?

Анткени мен КТ айдоо системасынын ролу жөнүндө сөз болгондо, мен КТга адамдык сапаттарды бербейм деп баса белгилегим келет. Бүгүнкү күндө КТны антропоморфизациялоонун туруктуу жана кооптуу тенденциясы бар экендигин унутпаңыз. Түпкүлүгүндө, адамдар бүгүнкүдөй КТнын жок экендигинин талашсыз жана талашсыз фактысына карабастан, бүгүнкү күндө КТга адамдыкындай сезимдерди беришет.

Ушул тактоонун жардамы менен, сиз AI айдоо тутуму кандайдыр бир жол менен айдоонун жактары жөнүндө "билбейт" деп элестете аласыз. Айдоо жана ага байланыштуу бардык нерселер өзүн өзү башкаруучу машинанын аппараттык жана программалык камсыздоосунун бир бөлүгү катары программаланган болушу керек.

Келгиле, ушул темада ойноого келген көптөгөн аспектилерге сүңгүп кирели.

Биринчиден, AI өзүн-өзү айдай турган унаалардын бардыгы бирдей эмес экенин түшүнүү керек. Ар бир унаа өндүрүүчү жана өзүн-өзү айдай турган технологиялык фирма өзүн өзү айдай турган унааларды ойлоп табууга өзүнүн мамилесин көрүп жатат. Ошентип, AI айдоо тутумдары эмне кылаары же кылбашы жөнүндө кеңири билдирүүлөрдү жасоо кыйын.

Мындан тышкары, качан AI айдоо системасы кандайдыр бир нерсени жасабайт деп айткандан кийин, муну кийинчерээк компьютерди ошол нерсени жасоого программалаган программисттер басып кетиши мүмкүн. Кадам сайын AI айдоо системалары акырындык менен өркүндөтүлүп жана кеңейтилип жатат. Бүгүнкү күндө бар болгон чектөө системанын келечектеги итерациясында же версиясында жок болушу мүмкүн.

Мен ишенем, бул мен айткым келген нерселердин негизинде жетиштүү эскертүүлөрдү берет.

Биз азыр өзүн-өзү башкара турган унааларга жана этикалык AI суроолоруна терең сүңгүп чыгууга даярбыз, эгер кааласаңыз, AI өзүн-өзү аңдап билүүнүн бир түрү бар.

Келгиле, жөнөкөй мисалды колдонолу. AI негизиндеги өзүн-өзү башкара турган унаа сиздин коңшулук көчөлөрүңүздө жүрүп жатат жана коопсуз айдап баратат. Башында сиз өзүн-өзү башкара турган унааны көргөн сайын өзгөчө көңүл бургансыз. Автономдуу унаа видеокамераларды, радар блокторун, LIDAR түзүлүштөрүн жана башка ушул сыяктууларды камтыган электрондук сенсорлордун стойкасы менен өзгөчөлөндү. Коомчулуктун айланасында бир нече жума бою өзүн-өзү башкара турган унаа круиздегенден кийин, азыр аны араң байкайсыз. Сиздин оюңузча, бул ансыз деле бош эмес коомдук жолдордогу башка унаа.

Өзү башкаруучу унааларды көрүү менен таанышуу мүмкүн эмес же акылга сыйбас деп ойлобоңуз үчүн, мен өзүм айдаган унааларды сынап көрүүнүн алкагындагы аймактар ​​бара-бара карагайлуу унааларды көрүүгө кантип көнүп калгандыгы жөнүндө көп жаздым. менин анализимди караңыз бул шилтемени бул жерде. Акыры, жергиликтүү тургундардын көбү оозун ача тиктеп, тажап бараткан ызы-чуу сезимине өтүштү.

Кыязы, азыр алардын автономдуу унааларды байкап калышынын негизги себеби - кыжырдануу жана ачуулануу фактору. Китепте жазылган AI айдоо тутумдары унаалар бардык ылдамдык чектөөлөрүнө жана жол эрежелерине баш ийип жатканын текшерет. Кадимки адам башкарган унааларындагы тынымсыз айдоочулар үчүн, сиз мыйзамды катуу сактаган AI негизиндеги өзүн-өзү айдаган унаалардын артында тыгылып калганда кыжырданасыз.

Бул туура же туура эмес, баарыбыз көнүшүбүз керек болгон нерсе.

Биздин жомокко кайтуу. Күндөрдүн биринде, сиздин шаарыңызда же шаарыңызда өзүн-өзү башкара турган унаа «Токто» белгисине жакындап калды дейли. Асман, AI айдоо системасы токтоо белгисинин жанынан өзүн өзү башкарган унаа сокосуна ээ болот окшойт. Элестеткиле, эгер жөө жүргүнчү же велосипедчи жакын жерде болуп, өзүн өзү башкарган унаа туура токтой албай калганын байкап калса. Уят. коркунучтуу!

Жана, мыйзамсыз.

Келгиле, эми AI айдоо тутумундагы AI компонентин карап көрөлү, ал өзүн-өзү түшүнгөн кош текшерүүчү стили катары иштейт.

Биз AI айдоо системасынын ичинде эмне болуп жатканын майда-чүйдөсүнө чейин казып алуу үчүн бир аз убакыт керек. Автономдуу унаага орнотулган видеокамералар «Токто» белгиси сыяктуу көрүнгөн нерсени аныкташкан, бирок бул учурда өсүп кеткен дарак «Токтоо» белгисин көп жаап салат. Башында Stop белгилери боюнча үйрөтүлгөн Machine Learning жана Deep Learning тутуму негизинен толук токтоо белгилеринин үлгүлөрү боюнча иштелип чыккан, жалпысынан тоскоолдуксуз. Видео сүрөттөрдү эсептөөчү түрдө изилдеп чыккандан кийин, ошол жерде Токтоо белгисинин бар экендигинин төмөн ыктымалдыгы дайындалды (кошумча татаалдашуу жана кошумча түшүндүрмө катары, бул мурда даярдалган санариптик карталарда көрүнбөгөн, жаңыдан жарыяланган Токтотуу белгиси болгон. AI айдоо системасы таянган).

Жалпысынан алганда, AI айдоо системасы Токтоо белгиси жок же башка түрдөгү белги сыяктуу, балким, токтоо белгисине окшош (бул болушу мүмкүн жана кандайдыр бир жыштык менен да болот) сыяктуу алдыга жылууну чечти.

Бирок, бактыга жараша, AI өзүн-өзү түшүнгөн кош текшерүүчү AI айдоо тутумунун ишмердүүлүгүн көзөмөлдөп турган. Маалыматтарды жана AIнын калган баалоону эсептөө жолу менен карап чыккандан кийин, бул компонент кадимки процессти жокко чыгарууну чечти жана анын ордуна AI айдоо тутумуна ылайыктуу токтотууга буйрук берди.

Эч ким жабыркаган жок, эч кандай мыйзамсыз иш-аракеттер болгон эмес.

AI өзүн-өзү түшүнгөн кош текшерүүчү AI айдоо тутумунун мыйзамга баш ийүүсүн камсыздоого аракет кылып, орнотулган юридикалык агент сыяктуу иш-аракет кылган деп айтууга болот (бул учурда, Токтот белгиси). Албетте, коопсуздук да маанилүү болгон.

Бул мисал ойлоп табылган AI өзүн-өзү түшүнгөн кош текшерүүчү кантип иштей тургандыгын көрсөтөт деп үмүттөнөбүз.

Андан кийин биз AI өзүн-өзү түшүнгөн кош текшерүү этикалык AI-багытталган кыналган функцияны кантип камсыз кыла аларын көрсөткөн бир кыйла көрүнүктүү этикалык AI мисалын кыскача карап чыгабыз.

Биринчиден, фон катары, AI негизиндеги өзүн-өзү башкаруучу унаалардын пайда болушуна байланыштуу айтылган кооптонуулардын бири, алар кандайдыр бир байкабай басмырлоочу жол менен колдонулушу мүмкүн. Мына кантип. Бул өзүн-өзү башкара турган унаалар киреше потенциалын жогорулатууга аракет кылуу үчүн орнотулду дейли, бул өзүн-өзү башкаруучу унаалардын паркын иштетип жаткандар үчүн маанисиз. Автопарктын ээси кирешелүү операция болгусу келет.

Белгилүү бир шаарда же шаарда роумингде жүрүүчү авто унаалар акырындык менен башка аймактарга эмес, коомчулуктун айрым бөлүктөрүнө кызмат кыла башташы мүмкүн. Алар муну акча табуу максаты үчүн жасашат, анткени жакыр аймактар ​​жергиликтүү аймактын бай бөлүктөрү сыяктуу киреше алып келбеши мүмкүн. Бул кээ бир аймактарга кызмат кылуу жана башкаларына кызмат кылбоо ачык умтулуу эмес. Анын ордуна, бул органикалык түрдө өзүн-өзү айдаган унаалардын AI катары келип чыгат, географиялык жактан көбүрөөк төлөнүүчү аймактарга топтоо аркылуу көбүрөөк акча табуу керек экенин эсептөө жолу менен "түшүнөт". Мен бул коомдук этикалык тынчсызданууну өзүмдүн колонкамда талкууладым, мисалы бул жерде шилтеме.

Биз AI айдоо тутумдарына AI өзүн-өзү түшүнгөн кош текшергичти коштук деп ойлойлу. Бир аз убакыт өткөндөн кийин, AI компоненти эсептөөчү түрдө өзүн-өзү башкарган унаалар роумингде жүргөн жердин үлгүсүн байкайт. Белгилей кетсек, кээ бир аймактарда, бирок башкаларында эмес. Кээ бир этикалык AI осуяттары менен коддолгондон кийин, AI өзүн-өзү түшүнгөн кош текшерүүчү өзүн-өзү айдаган унааларды шаардын башка бөлүктөрүнө башкара баштайт.

Бул AI өзүн-өзү түшүнүү түшүнүгүн көрсөтөт жана аны Этикалык AI элементи менен айкалыштырат.

Дагы бир ушундай мисал, бул Этикалык AI кароосу да өтө сергек жана олуттуу өлүм же өлүмдүн кесепети болушу мүмкүн экенин түшүнүүгө жардам берет.

Жакында болгон автокырсык тууралуу кабарды карап көрөлү. Маалыматка ылайык, бир адам кыймылдуу кесилишке келе жатып, түз алдыда жашыл жарык күйүп турган. Дагы бир айдоочу жол чырактын кызыл түсүнөн өтүп, жол кесилишине кирип кеткен. Жашыл жарык күйүп турган айдоочу акыркы учурда бул башка машина анын машинесин катуу сүзө турганын түшүнгөн.

Бул коркунучтуу айдоочунун айтымында, ал же башка машине сүзүп кетээрин, же сүзүп алган адамды качууга аракет кылып, сүзүп кете аларын жакшылап эсептеген. Айдоодогу көйгөй жакын жерде кооптуу болгон жөө жүргүнчүлөр болгон.

Сиз кайсыны тандайт элеңиз?

Сиз өзүңүздү соккуга даярдап, зыян сизди майып кылбайт же өлтүрбөйт деп үмүттөнсөңүз болот. Башка жагынан алганда, сиз түп-тамырынан бери бурулуп кете аласыз, бирок жакын жердеги жөө жүргүнчүлөргө олуттуу коркунуч келтирип, зыян келтирип же өлтүрүп коюшуңуз мүмкүн. Бул моралдык пикирди камтыган оор маселе жана этикалык (жана юридикалык) кесепеттерге толугу менен камтылган.

Мындай дилемманы камтыган жалпы максаттагы этикалык туңгуюк бар, ал белгилүү же балким, троллейбус көйгөйү деп аталат, менин кеңири чагылдырууну караңыз: бул шилтемени бул жерде. Бул 1900-жылдардын башына таандык этикалык жактан стимулдаштыруучу ой эксперименти экени белгилүү болду. Ошентип, бул тема бир топ убакыттан бери болуп келген жана жакында эле AI жана өзүн-өзү башкаруучу унаалардын пайда болушу менен байланышкан.

Адамдын айдоочусун өзүн-өзү башкарган унаага орнотулган AI айдоо системасы менен алмаштырыңыз.

Элестеткиле, AI өзүн-өзү башкарган унаа кесилишке кирип баратат жана автономдуу унаанын сенсорлору күтүлбөгөн жерден адам башкарган унааны кызыл жарыктан өтүп, айдоочусу жок унааны көздөй кооптуу түрдө байкап калышат. Автоунаанын ичинде кээ бир жүргүнчүлөр бар деп ойлойлу.

AI эмне кылышын каалайсыз?

AI айдоо системасы алдыга жылып, айдалып кетүүнү чечсе (уран унаанын ичиндеги жүргүнчүлөргө зыян келтириши же өлтүрүлүшү мүмкүн) же сиз AI айдоо тутумунун мүмкүнчүлүктөн пайдаланып, алыстап кетишин каалайсызбы? жакын жердеги жөө адамдарды көздөй кооптуу болуп, аларга зыян келтириши же өлтүрүшү мүмкүн.

Өзүн-өзү башкара турган унааларды жасаган AI жасоочулардын көбү бул этикалык AI ыйлаакчалык кыйынчылыкка кумга каршы мамиле жасап жатышат. Жалпысынан алганда, AI азыркы программалангандай, жөн гана алдыга айдап, башка машинага катуу сокку урат. AI башка качуучу маневрлерди издөөгө программаланган эмес.

Мен бир нече жолу алдын ала айтканмын, AI өзүн-өзү башкара турган унаа жасоочулардын бул жамандыкты көрбөгөн позициясы акыры келип, аларды тиштеп алат (менин анализим бул жерде бул жерде шилтеме). Сиз AI эмне кылуу үчүн программаланганын билүү үчүн ушундай автокырсыктарга байланыштуу сот процесстерин күтө аласыз. AIны иштеп чыккан жана иштеткен компания же AI иштеп чыгуучулары же флот оператору AI жасаган же кылбаган нерсе үчүн шалаакылык кылганбы же жоопкерчиликтүүбү? Сиз ошондой эле этикалык AI-маалымдуулуктун жалпы элдик бороон-чапкынынын ушундай көрүнүштөр пайда болгондон кийин болоорун күтө аласыз.

Бул Этикалык AI дилеммасына биздин мактанган AI өзүн-өзү билип, этикага багытталган кош текшерүүчү кадам таштайт. Балким, бул өзгөчө AI компоненти ушундай жагдайларда иштеши мүмкүн. Бул бөлүгү AI айдоо тутумунун калган бөлүгүн жана өзүн-өзү башкарган унаанын абалын көзөмөлдөйт. Ушундай коркунучтуу учур келип чыкканда, AI компоненти троллейбус көйгөйүн чечүүчү катары кызмат кылат жана AI айдоо системасы эмне кылышы керектигин сунуштайт.

Код берүү оңой эмес, мен сени ишендирем.

жыйынтыктоо

Мен бул темадагы акыркы ойду сиздер менен бөлүшөм.

Сизге кызыктуу болушу мүмкүн.

сиз билесизби күзгү сыноо?

Бул өзүн-өзү аңдоо изилдөөдө абдан белгилүү. Маселенин башка аталыштары - күзгүдөн өзүн-өзү таануу тести, кызыл так тести, Руж тести жана ага байланыштуу фразалар. Техника жана ыкма алгач 1970-жылдардын башында жаныбарлардын өзүн-өзү аңдоосун баалоо үчүн иштелип чыккан. Сыноодон ийгиликтүү өткөн жаныбарлардын арасында маймылдар, пилдердин айрым түрлөрү, дельфиндер, магпилер жана башкалар бар. Сыноодон өткөн жана сынактан өтпөй калган жаныбарлардын арасында алп пандалар, деңиз арстандары ж.б.

Мына келишим.

Бир жаныбар өзүн күзгүдөн көргөндө, көрсөтүлгөн сүрөттөлүштүн өзүнө таандык экенин түшүнөбү же жаныбар аны башка жаныбар деп ойлойбу?

Кыязы, жаныбар өзүнүн түрүн визуалдык түрдө тааныйт, анын башка түрүн көргөндүктөн, күзгүдө көрсөтүлгөн жаныбар аталаш тууганы же согушчан атаандашы деп ойлошу мүмкүн (айрыкча, эгерде айбан күзгүдөгү сүрөттөлүшкө ырылдаса). бурулуш аларга кайра ырылдап жаткансыйт). Мүмкүн, сиз үй мышыгыңыз же сүйүктүү итиңиз өзүн үй күзгүсүнөн биринчи жолу көргөндө ушундай кылганын көргөн чыгарсыз.

Кандай болгон күндө да жапайы жаныбар өзүн эч качан көргөн эмес деп ойлойбуз. Ооба, бул сөзсүз эле туура эмес, анткени жаныбар өзүн тынч суу көлмөсүнөн же жалтырак аскадан көрүп калгандыр. Бирок бул мүмкүнчүлүктөр азыраак деп эсептелет.

Макул, биз кандайдыр бир жол менен бир жаныбар чындыгында күзгүдө көрсөтүлгөн жаныбар экенин аныктай алабы же жокпу, баалагыбыз келет. Бул жөнөкөй көрүнгөн иш жөнүндө ойлонуп көр. Адамдар жаш кезинде эле бар экенин жана алардын бар экенин күзгүдөн көрүү аркылуу көрсөтөт. Алар өздөрүн өздөрү билип калышат. Теориялык жактан алганда, сиз өзүңүздү күзгүдөн көргөнгө чейин сиз экениңизди түшүнбөшүңүз мүмкүн.

Балким, айбандар когнитивдүү түрдө өзүн-өзү тааный алышпайт. Балким, бир жаныбар өзүн күзгүдөн көрүп, анын башка жаныбар экенине түбөлүк ишениши мүмкүн. Канча жолу өзүн көрсө да, бул өзүнөн башка жаныбар деп ойлойт.

Мунун куулук бөлүгү ойнойт. Биз жаныбарга белги коёбуз. Бул белги жаныбар өзүн күзгүдөн көргөндө гана көрүүгө тийиш. Эгерде жаныбар бурулуп же бурулуп, өзүнөн белгини (түздөн-түз) көрө алса, бул экспериментти бузат. Мындан тышкары, жаныбар белгини сезе албайт, жыттай албайт же башка жол менен байкай албайт. Дагы бир жолу, эгер алар ушундай кылышса, бул экспериментти бузуп салмак. Жаныбар биздин белги койгонубузду биле албайт, анткени бул жырткычка ал жерде бир нерсе бар экенин көрсөтүп турат.

Биз белгини ачыкка чыгаруунун бирден-бир себеби күзгүдөн өзүн кароо аркылуу болушу үчүн нерселерди кыскартууну каалайбыз.

Аха, тест азыр даяр. Жаныбар күзгүнүн алдына коюлат же ага тентип барат. Эгерде жаныбар белгиге тийгенге же казууга аракет кылса, анда биз бул белгинин өзүнөн өзү экенин түшүнсө, мунун бир гана жолу болот деген тыянак чыгарабыз. Бул сыноодон ийгиликтүү өтө алган жаныбарлардын түрлөрү өтө аз.

Сынакка байланыштуу сын-пикирлер арбын. Сыноочу адам жакын жерде болсо, алар белгини тиктеп бир нерселерди берип коюшу мүмкүн, бул жаныбардын щеткасына же сезишине алып келиши мүмкүн. Дагы бир ыктымалдык, жаныбар дагы эле күзгүдө башка жаныбар көрсөтүлгөн деп ишенет, бирок ал ошол эле түргө кирет, ошондуктан жаныбар анын да башка жаныбардагыдай белгиси барбы деп ойлонот.

Жана аны андан ары.

Сиз муну билгениңизге кубанычта экениңизге жана жаныбарда эмне үчүн чекит же кандайдыр бир кызыктай белги бар экенин түшүнөсүз деп ишенем. Ким билет, бул жакында күзгү сыноо экспериментин бүтүргөн болушу мүмкүн. Берешен катышуучу болгону үчүн жаныбарды, аман-эсен куттуктайбыз.

Мунун AI негизиндеги өзүн-өзү башкарган унааларга кандай тиешеси бар?

Бул бөлүгү сизге жагат.

Узун трассада өзүн өзү башкарган машина келе жатат. AI айдоо системасы башка трафикти аныктоо үчүн сенсорлорду колдонуп жатат. Бул эки тилкелүү трассанын бир тилкесинде түндүктү, экинчи тилкесинде түштүктү көздөй кыймылы бар. Кээде жеңил унаалар менен жүк ташуучу унаалар бири-биринен өтүп кетүүгө аракет кылып, каршы тилкеге ​​кирип, анан кайра өздөрүнүн саякат тилкесине секирип чыгышат.

Сиз муну көрдүңүз, шексиз муну жасадыңыз.

Бул кийинки жагдай сиздин да башыңыздан өткөнүнө ишенем. Өзү башкара турган унаанын алдында ошол чоң цистерналардын бири турат. Ал жалтырак металлдан жасалган. Жылмаланган жана ышкырыктай таза. Мындай жүк ташуучу унаанын артына баратканда, сиз автоцистернаңыздын арткы бөлүгү аркылуу унааңыздын күзгүсүн көрө аласыз. Эгер сиз муну көргөн болсоңуз, анын канчалык таң калыштуу экенин билесиз. Мына, сиз жана сиздин машинаңыз, жүк ташуучу унаанын артындагы күзгүдөй чагылышкан.

Жинди бурулуш үчүн отуруңуз.

Автоцистерна жүк ташуучу унаанын артынан өзү башкарган машина келе жатат. Камералар күзгүгө окшош чагылдырылган машинанын сүрөтүн аныктайт. Ой, AI баалайт, бул машинабы? Ал өзүн-өзү башкарган унаага келе жатабы? Автоунаа автоцистернага барган сайын жакындаган сайын машина улам жакындап бараткандай.

Ооба, AI эсептөө жолу менен бул кооптуу кырдаал экенин эсептеп чыгышы мүмкүн жана AI бул жинди арам унаадан качуу чараларын көрүшү керек. Көрдүңүзбү, AI күзгүдөн өзүн тааныган жок. Күзгү сынагынан өтпөй калды.

Эмне кылуу керек? Балким, AI өзүн-өзү түшүнгөн кош текшерүүчү маселеге секирип, AI айдоо тутумунун калган бөлүгүн бул зыянсыз чагылдыруу экенине ынандырат. Коркунучтун алдын алды. дүйнө куткарылды. AI Mirror Testинен ийгиликтүү өтүү!

Тил менен жыйынтыктоо менен, биз кээде AI орточо аюуга караганда акылдуураак же жок дегенде өзүн-өзү жакшыраак билет деп айтууга болот (бирок, аюулардын ишенимине караганда, алар күзгү тестинде жакшы иштешет, көбүнчө суу көлмөлөрүндө чагылууга көнүшкөн).

Түзөтүү, балким, AI гиганттык пандаларга жана деңиз арстандарына караганда өзүн жакшыраак түшүнүшү мүмкүн, бирок жаныбарларга муну айтпаңыз, алар AI системаларын талкалап же сындырууга азгырылышы мүмкүн. Биз муну каалабайбыз, туурабы?