AI этикасы жана геосаясий күрөш чыныгы AI жетүү үчүн жарышта ким жеңет

Дүйнө кызуу жарышта.

Геосаясий державалар жеңүүчү бардык беконду үйгө алып кетет деп ырасташат.

Кандай жарыш катуу жүрүп жатат жана тырышчаактык менен жүрүп жатат?

Бул AI жарышы.

Балким, сиз муну жетүү үчүн жарыш деп атасаңыз болот чыныгы Жасалма интеллект (AI), азыркы учурда толугураак жасалма жалпы интеллект (AGI) деп аталат. Биз кандайдыр бир жол менен адамдын интеллектине окшош көрүнгөн AI же AGI деп аталган эң жогорку интеллектке жетүүнү каалайбыз. Биз ал жерде элек. Чынында эле, ар кандай жапайы жана уятсыздык менен жарыялоочу баш макалаларга карабастан, биз бул бийик белгиге качан же жокпу, билбейбиз. Бүгүнкү AI адамдын интеллектине караганда мүмкүнчүлүктөрү жагынан алда канча азыраак, бирок AI таасирдүү кадамдарды жасаган көптөгөн тар жолдор бар, мисалы, дүйнөлүк деңгээлдеги шахматты ойноо же башка салыштырмалуу чектелген тапшырмаларды аткаруу.

Алтын шакек бул интеллекттин пайда болушу, ал адамдын интеллектинин динчил табиятын жана адамзаттыкына окшош тереңдигин көрсөтөт. Бул AI изилдөөчүлөрүнүн жана практиктеринин ыйык белгиси. Мезгил-мезгили менен AI жарыш сызыгын басып өттүм деген атайын дооматтар болгон, аны мен өзүмдүн колонкамда жокко чыгардым. бул жерде шилтеме. Мара сызыгын кесип өтүүгө аракет кылгандар жалпы коомчулукту дүрбөлөңгө салып, кээде ынталуу күнөөсүздүк менен жасашат, ал эми кээ бир учурларда олуттуу күмөндүү себептер бар. Жалпысынан алганда, бул AI этикасынын олуттуу жана маанилүү ойлорун жаратат. Менин AI этикасы жана этикалык AI жөнүндө үзгүлтүксүз жана кеңири чагылдыруу үчүн караңыз бул жерде шилтеме жана бул жерде шилтеме, Бир нечесин гана атаңыз.

Кандай болбосун, глобалдык спринттик AI жарышы кызуу жүрүп жатканы талашсыз. Башкача талап кылуу сизге кыйын болот.

Муну ойлоп көрүңүз. Эгерде биз чыныгы AI же AGIге жетише алган болсок, анда AI фут жарышы формалдуу түрдө жана дүйнөлүк деңгээлде ийгиликтүү аяктады деп жарыяланмак. Мындай жаңырган жана жер титиреткен ачылышка бүткүл дүйнөлүк көңүл бурулат деп ишендирем. Сен аны билмексиң. Баарыбыз болмок. AI жинди сызыкчасы мындан ары эффективдүү болбой калат, бирок, балким, чыныгы AIга жетише албагандар камтылган экинчи версия пайда болушу мүмкүн. Ошондой эле биз ал жакка же жеткенде AGIди кантип көзөмөлдөйбүз же башкарабыз деген тынчсыздандырган маселе бар.

Чыныгы AI же AGI өндүрүү таажысын азырынча эч ким же уюм же мамлекет талап кыла албайт.

Ошол эле учурда кайсы улуттун (же улуттун) башында, кимдин артында калганы жөнүндө эбегейсиз жана тынымсыз кол жазма жүрүп жатат. Эгер сиз биринчи болбосоңуз, кирде каласыз деген божомол бар. Сиз AI жеңүүчүлөрүнөн калган калдыктарды жейсиз. Сиз чыныгы AI же AGIге секирик жасаган улутка же элдерге түбөлүккө баш ийип каласыз.

Тезирээк жана бул талкуунун формулировкасын жеңилдетүү үчүн, мен мындан ары чыныгы AI аурасын чакыргым келгенде "AGI" колдоном. Бир аз жаңыраак "AGI" деген сөз айкашын колдонуу кээде анын колдонулганын көрүүгө көнбөгөндөрдүн кыжырын келтирет. Биз баарыбыз "AI" менен таанышпыз жана анын ордуна "AGI" деген аббревиатура колдонулуп жатканын көрүп, сизди тынчсыздандырышы мүмкүн. Эмне үчүн бул акырындык менен оозеки тенденция катары пайда болуп жатканын түшүндүрүүгө уруксат этиңиз.

AGIнин AI тилинин аренасында көтөрүлүшүнүн бир себеби, жөн гана "AI" деп айтуу азыр өкүнүчтүү түрдө сугарылып калган сөз айкашына айланды. Сиз айтып жаткан AI эптеп AI вариантыбы же жакшыраак прогрессивдүү AI инфузиясыбы же качандыр бир күнү футуристтик толугу менен адамга теңелген AIга ишарат кылышы мүмкүнбү, эч ким билбейт. "AI" дын ашкере жүктөлүшүнө каршы сөз айкашы катары, AGI лакими AI тармагындагы инсайдерлер тарабынан өзгөчө жана өзгөчө чыныгы AI жөнүндө айткысы келген артыкчылыкка ээ болууда.

Ошентип, кыскача айтканда, менин AGI жөнүндө айтканымды адамдын интеллектине окшош күчтүү калибрдеги "чыныгы AI" деп айтуу менен бирдей деп эсептейбиз, рахмат.

Келгиле, кылдаттык менен терең дем алып, AGIге жетүү үчүн жарыштын кээ бир жактарын кылдаттык менен карап көрөлү. Ал тургай, биринчи айтыш керек болгон мета-аспектиси бар. Эсиңизде болсун, AGI жарышына метафора катары болжолдонгон жөө жарыш же башка жарыш иш-аракеттеринин аллегориясын колдонууда бир аз кыжырдануу бар. Эмне үчүн андай? Мен сизге бир аздан эмне үчүн (айрымдар айтышат) жөө жарыш же анын эквиваленти толугу менен жаңылыштык жана тымызын жөнөкөй көз караш экенинин татаалдыктары жана татаалдыктары жөнүндө айтып берем.

Бул дискурста мен сиз менен сүйлөшө турган негизги ойлорду:

• Бул жарыш болсо, AGI марага сызыгы абдан начар аныкталган көрүнөт
• AGI жарышы бир адамга, уюмга же улутка өтүшү мүмкүн
• Метрикалар жана элдер AGI жарышында кантип салыштырылат
• AGI жарыш үчүн геосаясий маневр жана тегиздөө
• Эл аралык AI мыйзамдары жана AI этикасы AGI жарышында калыстар катары

Мен шашылыш жүрүп жаткан AGI жөө жарышын (ооба, мен аны фут жарыш деп айтууга батындым) карап жатканда, коопсуздук куруңузду байгыңыз келип калышы мүмкүн, анын дээрлик бардыгы эң жогорку ылдамдыкта жылып, бул жалындуу тапшырмада алдыда асмандап бараткандай. Кээ бирөөлөр бул жарыш адамзаттын жакшыруусу үчүн жарыш деп айтса, башкалары жарыш баарыбыз үчүн кыйроого алып келиши мүмкүн деп алдын ала эскертип жатышат.

Убакыт көрсөтөт.

Эгер бул жарыш болсо, AGI финиш сызыгы такыр так эмес көрүнөт

Мара сызыгы, адатта, бир кыйла так демаркация болуп саналат. Же марага жеттиңиз, же жеткен жоксуз. Кыскасы сага жакшылык алып келбейт окшойт. Олимпиаданын 400 метрге чуркоосун элестетип көргүлө жана жарышты такыр аягына чыгара албаган (эч качан финиш сызыгын кесип өтпөгөн) жөө күлүктөрдү өзгөчө эстейсиңби же мактоого татырсыңбы? Мүмкүн эмес.

Биз AGIге жеткенибизде марага жеткенибиздин баары макулдашылганын билебизби?

АГИди демаркациялоо боюнча кызуу пикир келишпестиктер бар.

Мисалы, биз жасалма интеллектти иштеп чыктык дейли, ал толугу менен адамдын интеллектин көрсөтүүгө жөндөмдүү көрүнөт, бирок анда сезимталдыктын эч кандай окшоштугу жок (AI сезими боюнча аргументтер жөнүндө менин баяндамамды караңыз: бул жерде шилтеме). AI эсептөө жагынан адамдын интеллекти сыяктуу тууроо же башка жол менен аткара алат. Бирок, биз адамдар жана башка тирүү жандыктар менен байланыштырган жандыктын же сезимдин учкуну жок. Бул AGI биз ойлогон максатка жетти деп эсептейби?

Кээ бирөөлөр бул AGIге сезимталдыкты камтыгандай көрүнсө эч кандай мааниге ээ эмес деп каршы чыгышат. Ал адамдын интеллектин көрсөтө алгандан кийин, сезимдин инкорпорациясы биз пайда болушун каалабай турган же каалабаган ар кандай түрдөгү нерсе. нерселердин бул маанисинде сезим кошумча болуп саналат.

Башкалары AGIде адамдын интеллектине жетүүнүн бирден-бир жолу сезимталдыкты интегралдык түрдө чагылдыруу болот деп катуу айтышат. AGI жана сезүү же бирдей деп эсептелет, же алар ажырагыс кош ишке ашыруунун аралашмасы. AGI алуу үчүн, сен сезимтал болушу керек, алар талашат.

Дебаттын бул бурчун четке кагып, дагы бир көз карашта, биз белгилүү Тьюринг тестин колдонуп, AGI жетишилгендигине баа бере алабыз. Мен Тьюринг тестин терең изилдеп чыктым бул жерде шилтеме. Кыскача айтканда, түшүнүк адамдын AGIге суроо берүүсүнөн турат жана эгер адам AGI тарабынан түзүлгөн жоопторду адамзаттын жоопторунан айырмалай албаса, анда биз AGI адамдын интеллектин көрсөтө алат деп жарыялайбыз.

Тьюринг тести менен байланышкан көптөгөн кыйынчылыктар же кемчиликтер бар.

Сурап ​​жаткан адам жаман иш кылып, иликтөөчү суроолорду бере албайт дейли. Кооптондурган нерсе, бүгүнкү күндөгү күчтүү көрүнгөн чоң тил моделдеринин (LLMs) көбү LLM үйрөтүлгөн мазмунду (б.а., тексттик жана санариптик медиа көбүнчө Интернетти масштабдуу кырып алуу аркылуу алынат) адамга кайра кайтара алат. Ошентип, өзгөчө тандалган адам кадимки түрдөгү суроолорду берип жаткан, буга чейин жооп алган жана онлайнда бар, LLM тарабынан дароо эле "жооп" берилиши мүмкүн, бирок бул талаштуу AGI калибриндеги адамдын интеллектинин ишке ашырылышына байланыштуу эмес.

Башка көптөгөн кооптонуулар пайда болот. Адам жоопторду түшүнө албайт дейли. Же адам жооптордун баары адамдын акылынын көргөзмөсү деп өзүн алдап жатат дейли. Мен кээ бир адамдардын кынтыксыз идеясын айттым, биз AIдан анын AGIби же сезимдүүбү деп сурашыбыз керек. бул жерде шилтеме.

Акыр-аягы, бир кошумчалагандай, биз AGI жетти деп эсептеш үчүн марага толук жетишибиз керекпи?

Мен жогоруда айткам, биз көбүнчө марага жетпей калгандарды унутуп калабыз. Бул AGI жарышына акылга сыярлык эмес болушу мүмкүн. Эгерде биз AGIге олуттуу жолго жетише алсак, анда биз таң калуу абалында болобуз, же чоң пайда же чоң кыйынчылыктарга туш болобуз деп ишенем. Көрдүңүзбү, көптөгөн маанилүү жана абдан пайдалуу натыйжалар дээрлик бар AGI тарабынан пайда болушу мүмкүн. 400 метрлик жөө жарышты бүтүрбөө сыяктуу кыйынчылык туудурбайт, айрыкча бул AGIнин толук версиясына (салыштыруу үчүн марафон болушу мүмкүн) жол ачуу үчүн маанилүү негиз болушу мүмкүн.

AGI жетүү метафорасы жөө жарыштын бир түрү же анын эквиваленти кээде канааттандырарлык эмес жана адекваттуу эмес.

AGI жарышы бир адамга, мекемеге же улутка өтүшү мүмкүн

Кээ бирөөлөр AGIге пижама кийип жүргөндө гаражда иштеген кээ бир усталар жетет жана алар бир нече жылдардан бери иштеп келе жаткан акылга сыйбаган ойлоп табуучу компьютерлештирүү эксперименттеринин натыйжасы болот деген кыялкеч түшүнүктү сакташат. Бул жалгыз карышкырдын классикалык жогорку технологиялык тропасы.

Кечиресиз, бул өтө аз ыктымалдуу сунуш.

Бизнес же кандайдыр бир изилдөө тобу сыяктуу уюм AGI баруучу болуп калышы мүмкүн. Күчтүү жана үстөмдүк кылган ишеним - АГИге келүү үчүн бир айыл керек. Жалгыз карышкырдын AGI жетүү үчүн ресурстары да, түшүнүктөрү да болбойт. Алар издөөгө салым кошо алат. Алар табышмакка керектүү бөлүктөр менен камсыз болушу мүмкүн. Алар бүт комплектти жана кабудду чогулта алышпайт.

Айылдар жөнүндө сөз кыла турган болсок, дагы бир катуу карманган көз-караш АГИге гана жете турган элдер болот. Элдин, бизнестин, академиктердин жана улуттук мамлекеттин ичиндеги бардык башка жактардын айкалышы аркылуу AGI улуттук бүтүндүктүн биргелешкен ишинин натыйжасында келет. Бул жарышта жеңүүчүгө көңүл буруунун бирдик деңгээли чачыранды, эркин формадагы же индивидуалдык нерсеге эмес, улуттук-мамлекеттик негизде болот.

Кыскасы, айылды алса, айыл улуттук масштабда болот, демек, улуттук-мамлекет AGI жарышында финиш сызыгын кесип өткөн жөө күлүк болот.

Метрикалар жана элдер AGI жарышында кантип салыштырылат

AGI жетишкендиги улуттук-мамлекеттик деңгээлде негизделгенин эске алыңыз.

Дагы бир жолу кайталайм, биз муну так билбейбиз, бирок бул негиздүү божомол окшойт.

Улуттук-мамлекеттик негиздер-дин натыйжаларын карап көрөлү. Айталы, жалгыз карышкыр алгач AGIге жете алды жана алардын иши алар мүчө болгон улуттук мамлекеттин ишинен тышкары деп эсептейт. Бул адам жасалган AGI жагынан алар эч кандай улуттук мамлекет эмес деп жарыялайт. Биз дагы эле ошол улуттук мамлекетке кредит беребизби жана AGI ошол элдин көзөмөлүндө жана ыйгарым укуктарынын чегинде болобу?

Ири көп улуттуу конгломерат AGIге биринчи келет деген дагы бир альтернативаны элестетиңиз. Кайсы эл AGI алардын колдонууга жана жайылтууга болгон "нерсеси" деп айта алат (ал мүлк катары чечмеленеби же анын ордуна юридикалык жактын варианты болобу)? Балким, компаниянын ичинде бар бардык элдер бирдей кредит алуу керек. Же, балким, расмий штаб географиялык жактан жайгашкан жерде гана. Бул чыныгы алтын казанды татаал бөлүү болушу мүмкүн.

Кандай болгон күндө да, жалпы элдик пикир улуттук мамлекет AGI жетүү үчүн чечүүчү аныктоочу болуп калат. Өзүнүн улуттук күч-аракеттеринин алкагында AI изилдөөлөрүн жана өнүктүрүүнү кубаттаган мамлекет, балким, башка мамлекеттерге караганда AGIге эртерээк жетет.

AI жарышы улуттук деген көз караш басымдуулук кылат.

АГИ жарышында бир эл башка улуттан алдыда же артта экенин кантип аныктайбыз деген башты тырмалаган маселе.

Кадимки жөө жарышта биз кайсы жөө күлүктөр жакшы, кайсынысы начар экенин аныктоо үчүн колдонула турган көрсөткүчтөрдү оңой эле аныктай алабыз. Жөө күлүктүн ылдамдыгын оңой эле эсептөөгө болот. Бул алардын биринчи бүтөөрүнө кепилдик бербейт, бирок, жок эле дегенде, убаданы көрсөтүп турат. Жөө күлүктөрдүн ортосундагы физикалык аралык жана марага чейинки аралык биз оңой өлчөй ала турган маанилүү критерийлер.

AGI жарышында метрикалардын же өлчөөлөрдүн мындай ишенимдүү формалары жок.

Биз бардык суррогат чараларды колдонуп жатабыз, анткени акыркы сызык кайда жана андан канчалык алыс экенибизди эсептөөнүн так жолу жок.

Келгиле, шарттуу түрдө каралып жаткан метрикалардын түрлөрүн карап көрөлү. AI менен байланышкан глобалдык өлчөөлөрдүн өзгөчө ыңгайлуу булагы жыл сайын Стэнфорд университетинин Стэнфорд университетинин Адамга багытталган AI институту (HAI) тарабынан чогултулуп, жарыяланат. Отчет онлайн акысыз жеткиликтүү жана акыркы чыгаруу укугу бар AI индекси 2022 жылдык отчет (2020-2021-жылдарга чогултулган маалыматтардын негизинде). Мен алардын акыркы жыйнагында айтылган улуттук салыштыруулардын айрым урунттуу учурларын бир аздан кийин сиз менен бөлүшөм.

AI боюнча улуттук жана эл аралык прогрессти өлчөө үчүн колдонулуп жаткан метрика, адатта, бардык нерсенин бир азын камтыйт, кээде чыныгы ашкана раковинасын кошуу менен чектелет.

Адатта каралуучу чаралардын түрлөрү төмөнкүлөрдү камтыйт:

• Белгилүү бир улутка таандык AI изилдөө макалаларынын саны
• Белгилүү бир элдин AI макалаларына келтирилген шилтемелердин саны
• Белгилүү бир улутта негизделген AI журналдарынын саны
• Белгилүү бир улутта болуп жаткан AI конференцияларынын саны
• Белгилүү бир эл тарабынан каржыланган AI конференцияларынын саны
• Белгилүү бир өлкөдө берилген AI менен байланышкан патенттердин саны
• Белгилүү бир өлкөдө AI компаниясынын стартаптарынын саны
• Белгилүү бир улуттагы AI жумуштарынын саны
• Белгилүү бир өлкөдө жаңы AI жумуш орундарынын же жалдоолордун саны
• Белгилүү бир өлкөдө киргизилген AI мыйзамдарынын же мыйзам долбоорлорунун саны
• Белгилүү бир өлкөдө кабыл алынган же кабыл алынган AI мыйзамдарынын саны
• башка

HAI AI Index 2022деги бул заманбап көрсөткүчтөрдү карап көрүңүз:

• AI жарыялоо цитаталары: "AI репозиторийинин басылмаларынын цитаталары боюнча АКШ 38.6-жылы жалпы цитаталардын 2021% менен тизменин башында турат, бул Европа Биримдигине плюс Улуу Британияга (20.1%) жана Кытайга (16.4%) үстөмдүк кылууда.
• AI журналдары/конференциялары: «2021-жылы Кытай AI журналдарынын, конференцияларынын жана репозиторий басылмаларынын саны боюнча дүйнөдө лидерликти улантты — бул үч басылманын түрүн кошкондо АКШга караганда 63.2% жогору. Ошол эле учурда, Америка Кошмо Штаттары AI боюнча ири державалардын арасында конференциялардын жана репозиторийлердин цитаталарынын саны боюнча үстөмдүк кылган.
• AI патенттери: «Учурда Кытай дүйнөдөгү AI патенттеринин жарымынан көбүн тапшырып жатат жана 6%га жакыны Европа Биримдигине жана Улуу Британияга окшош. Түндүк Америкада дээрлик бардык патенттерди тапшырган Америка Кошмо Штаттары муну Кытайдын үчтөн бир ченинде аткарат. Колдонулган жана берилген AI патенттеринин көбөйүп бараткан санына салыштырмалуу, Кытайда берилгендерге (87,343-жылы 2021) караганда (1,407-жылы 2021 XNUMX) патенттик өтүнмөлөр алда канча көп.
• Жаңы каржыланган AI компаниялары: «Ар бир аймакта жаңыдан каржыланган AI компанияларынын саны боюнча инвестициялык маалыматтар. 2021-жылы Америка Кошмо Штаттары 299 компания менен лидерлик кылды, андан кийин Кытай 119, Улуу Британия 49 жана Израил 28 менен. Ар биринин ортосундагы ажырым олуттуу.
• AI жалдоо темпи: "Жаңы Зеландия, Гонконг, Ирландия, Люксембург жана Швеция 2016-жылдан 2021-жылга чейин AI жалдоодо эң көп өскөн өлкөлөр же аймактар ​​болуп саналат.
• AI жумуш жарыялары: "2021-жылы Калифорния, Техас, Нью-Йорк жана Вирджиния Кошмо Штаттарда AI боюнча жумуш жарыялоолордун эң көп штаттары болгон, Калифорния Техас сыяктуу жарыялардын саны боюнча 2.35 эсе көп, экинчи орунда. Вашингтон, Колумбия округу, анын жалпы санына салыштырмалуу AI жумуш жарыяларынын эң көп көрсөткүчүнө ээ
• AI Мыйзам чыгаруу аракети: "25 өлкөдө AI боюнча мыйзамдык жазууларды AI индексинин талдоосу көрсөткөндөй, мыйзамга кабыл алынган"жасалма интеллектти" камтыган мыйзам долбоорлорунун саны 1-жылы 2016ден 18-жылы 2021ге чейин өскөн. Испания, Улуу Британия жана АКШ 2021-жылы AI менен байланышкан мыйзам долбоорлорунун эң көп санын кабыл алды, алардын ар бири үчтөн кабыл алды.

Биз AGI жарыш үчүн улуттук-мамлекеттик жөө күлүк статистикасын түзүүдө тартылган оор эмгекке абдан суктанабыз жана баалай алабыз.

Скептиктер AGI жарышында метрикалардын ар кандай түрлөрүн колдонуу жөнүндө бир аз талашышат.

Белгилүү бир улуттагы AI макалаларынын же AI конференцияларынын санынан баштап AGIга эң жогорку жетүүгө чейин кандайдыр бир түз сызык тарта аласызбы деген курч суроо. Ошол эле AI жумуш орундарынын саны, AI компанияларынын саны жана башка көрсөткүчтөр жөнүндө да айтылат. Бул сандардын AGI жетүү менен эч кандай байланышы жок болушу мүмкүн. Аргумент бул чаралар жарыкка караганда көбүрөөк жылуулук деп айтылат.

Каршы аргумент биз кайда экенибизди жана кайда бара жатканыбызды өлчөө үчүн аракет кылышыбыз керек. Башыңызды кумга салуу биздин AGIге бара жатканыбызды же балким AGIден алысыраак баратканыбызды баалоо үчүн ылайыктуу жол эместей көрүнөт. AI тармагындагы ийгиликтерге канчалык көп күч жана көңүл бурулса, биз AGIге ошончолук жакындайбыз деген үмүт бар жана жалпысынан болжолдонууда. Бул көрсөткүчтөр AGI жарышында канча энергия жана көңүл бөлүнүп, сарпталып жатканын билүү үчүн биз жасай ала турган эң жакшы нерсе.

Тегерек-тегерек болот.

Көрсөткүчтөрдүн ар бири өзүнөн өзү эле баштын үстүнөн согулган болот.

Мисалы, AI жөнүндө мыйзам чыгаруучу мыйзамдардын же мыйзам долбоорлорунун санын карап көрөлү.

Эгер мыйзам чыгаруучулар AI менен байланышкан мыйзамдарга көңүл бурушса, бул эл AIнын маанилүүлүгүн жана AI кайда баратканынын коомдук кесепеттерин өтө кылдаттык менен кабыл алып жаткандыгынын жакшы белгиси деп айта аласыз. Бул конкреттүү өлкөдө AI алдыга жылдыруу боюнча көп күч-аракет жумшалып жатканын көрсөтүп турат. AI өзгөчө өнүгүп, улутуңуздун демонстративдик элементи катары көбөйүп кетпесе, эмне үчүн AI мыйзамдарын кабыл алуу үчүн кыйналасыз?

Ошентип, жаңы AI мыйзамдарын чыгарган элдер бул өлкөдө AGI прогрессинин бир белгиси же сигналы катары чечмеленет.

Кээ бир сынчылар AI жөнүндө сунушталган жаңы мыйзамдар ар бир ушундай улуттагы AI аракеттерин муунтуп салат деп ырасташат. Депутаттар, саясый лидерлер өз бутуна атышат. Мыйзамдар ошол өлкөдө жүрүп жаткан AI аракеттерине эртерээк көлөкө түшүрөт. AI өркүндөтүүчү кран мыйзамдуу чачтын бүтөлүшүнө алып келет жана AGI прогрессинин темпи ошол AI мыйзамын жарыялаган элде акырындап басаңдайт. Ошол эле учурда, AI мыйзамдарынын мындай түрлөрүн кабыл албаган башка элдер токтоосуз уланта беришет. Сиз буга чейин 400 метрлик трассада турган жөө күлүккө коргошун салмакты коюуну чечкендей болдуңуз. Эгер сиз аларга жардам берүүнү жана аларды тездетүүнү максат кылган болсоңуз, анда сиз мунун тескерисин жасадыңыз.

Айтор, AI мыйзамдарынын кабыл алынышы жөө күлүктүн алдында эч кандай ашыкча тоскоолдуктар жок экенине ынанууга көбүрөөк окшош. Мыйзамдар ипподромдогу сызыктар жөө күлүктү туура багытта жылмакай кармап туруу үчүн ошол эле жол менен көрсөтмөлөрдү берет. Ошол боёлгон сызыктар болбосо, күлүктөр дүрбөлөңгө түшүшү мүмкүн. Жаңы AI мыйзамдары аларды каалаган натыйжага карай бирдиктүү кадам ташташат. Жаңы AI мыйзамдары боюнча ушундай кылбаган өлкөлөр өздөрүнүн күлүктөрүн бардык жапайы багытта баратышат, анын ичинде толугу менен трассадан качып, AGI жарышынан тышкары бейкүнөө адамдарга зыян келтириши мүмкүн.

Ошондой эле AI менен байланышкан "жашыруун" мыйзамдар бар, аларды кээ бирлери эсептеп жатышат, ал эми кээ бирлери бул метрикалардын бир бөлүгү катары эсептелбейт (эсептерди салыштырууга аракет кылып жатканда ката кетирет).

Мисалы, эгер мамлекет өзүн-өзү башкаруучу унаалар сыяктуу автономдуу унааларга байланыштуу мыйзам чыгарса, сиз муну AI мыйзамы катары эсептейсизби? Автономдуу унааны тактоо үчүн, мисалы, толугу менен автономдуу өзүн-өзү башкарган унаа айдоочусуз мүмкүнчүлүктөрдүн негизгиси болгон AI айдоо тутумуна ээ болот (менин камтууну караңыз бул жерде шилтеме). AI тартылгандыктан, автономдуу унаалар жөнүндө бардык мыйзамдарды негизи AI мыйзамдары деп айтууга болот. Башка жагынан алганда, сиз мыйзам AI жөнүндө эмес, автономдуу унаа жөнүндө деп ишендире аласыз, ошондуктан бул AI-га тиешелүү мыйзамдарда эсепке алынбайт.

Бул баш аламан.

Өлчөмдөрдүн бардык бул таң калуусу бул олуттуу ойлорго карама-каршы полярдуу көз караштар менен ийин куушурууга алып келиши мүмкүн. Көрүнүп тургандай, көрсөткүчтөр дээрлик ар дайым алар эмнени билдирерин жана AGIге карата улуттун статусу кандайча туура анализденгендиги жөнүндө ар кандай чечмелөөгө дуушар болушат.

AGI Race үчүн геосаясий маневр жана тегиздөө

AGI жарышында кайсы мамлекеттер алдыда?

Кайсы элдер артта калып жатат?

Жогоруда айтылган көрсөткүчтөр жөө күлүктөрдүн ар бири учурда кайда экенин көрсөтүүгө аракет кылат. Негизги божомол, эгерде метрика AGI позициясын аныктоонун ылайыктуу көрсөткүчүн көрсөтсө, бул ар кандай полюс позициялары убакыттын өтүшү менен ошол эле бойдон калышы мүмкүн. Албетте, чындыгында, улуттук кызыкчылык жана көңүл АГИге карай тайгаланып баратканда көбөйүшү же азайышы мүмкүн. Позицияңыздын өзгөрүшүн күткөнүңүз акылдуу болушу мүмкүн.

Маанилүү жагдайлардын бири - элдер бул жарышка өз алдынча эмес.

Элдер эстафетаны бири-биринин ортосунда алдыга-артына өткөрүп бериши мүмкүн. AGI жарышында кээде бир же бир нече улуттар кол кармашып, кубаныч менен иштешет. Кээде бул достук кубаныч менен эмес, этияттык менен жасалат. Башка учурларда, элдер бири-биринен баш тартышы мүмкүн. Убакыттын ар бир көз ирмеминде жарыштын абалы бир нече кадам артка кеткенден такыр башкача болушу мүмкүн, ошондой эле келечекте бир нече кадамдар такыр башкача болушу мүмкүн.

HAI AI Index 2022 отчетунда өлкөлөр аралык кызматташуулар тууралуу айтылган бул ойду карап көрөлү: “Геосаясий чыңалуу күчөгөнүнө карабастан, АКШ менен Кытай 2010-жылдан 2021-жылга чейин AI басылмаларында эң көп мамлекеттер аралык кызматташууга ээ болуп, 2010-жылдан бери беш эсеге көбөйгөн. Эки өлкөнүн кызматташтыгы Улуу Британия менен Кытайга караганда 2.7 эсе көп басылмаларды чыгарды — бул тизмедеги экинчи орунда».

Киниктер, балким, кайчылаш кызматташууну кээде куулук катары колдонушат деп айтышат. Бир улут ачык түрдө алар кайчылаш кызматташып жатабыз деп ырасташы мүмкүн, мунун сырткы көрүнүшү, ошол эле учурда алар эң жакшы AGI прогрессин жашыруун улуттук сыр катары сактап жатышат. Балким, бул кайчылаш кызматташуу улутунун прогрессин жабуу үчүн жасалып жаткандыр. Балким, бул жашыруун соус кокустан берилип кетпеши үчүн жасалып жаткандыр. Ар кандай себептер болушу мүмкүн.

Бүгүнкү заманбап санариптик Интернет онлайн дүйнөсүндө, AGI түшүнүктөрүн бекем сактоого аракет кылуу кыйын иш болушу мүмкүн. AGIны ачууга же ойлоп табууга болгон күчтүү каалоо - бул жеке AGI иштеп чыгуучуларына жана изилдөөчүлөрүнө өздөрүнүн акыркы иштерин ачык бөлүшүүгө түрткү бере турган жагымдуу нерсе. Элдер мындай бөлүшүүгө чек коюу аракети көрүнгөндөн бир топ кыйын экенин жана баары кагазга негизделген жана дүйнө жүзү боюнча физикалык жактан кыймылдуу документтерди талап кылган күндөргө караганда бир топ кыйын экенин түшүнүшөт.

HAI AI Index 2022 отчетунда айтылгандай, ачык булакка болгон кыймыл, албетте, акыркы AI жана AGI изилдөөлөрүнүн заманбап басымы болуп калды: “Жыл сайын миңдеген жана миңдеген AI басылмалары ачык булакта чыгарылып турат. конференцияларда же файл бөлүшүү веб-сайттарында. Изилдөөчүлөр конференцияларда өз жыйынтыктарын ачык бөлүшөт; мамлекеттик органдар ачык булак менен аяктаган AI изилдөөлөрүн каржылайт; жана иштеп чыгуучулар заманбап AI тиркемелерин өндүрүү үчүн ачык программалык китепканаларды колдонушат. Бул ачыктык, ошондой эле заманбап AI R&D глобалдык бири-бирине көз каранды жана өз ара байланышта болушуна өбөлгө түзөт.

Жалпысынан алганда, элдер жалпысынан бөлүшүп жатышат, бирок колунун бир бөлүгүн гана көрсөтүп жатышы мүмкүн. Башка улуттар бөлүшпөйт же шылтоо кылышы мүмкүн. Кээ бир элдер өз улутундагылар эмне берип жатканын өлчөө үчүн катуу күрөшүп жатышат. Жана башка.

Мен бул улуттук кыймылдардын табиятын мындайча мүнөздөдүм:

• AI жалгыз улут (өзүнчө улантууга аракет кылат)
• AI бир тараптуу гана улут (кабыл алат, бербейт)
• AI Калган улут (башкалардан колунан келгенин алат)
• AI ачык бөлүшүү улуту (бөлүшүү менен сыймыктанат)
• AI Hollow-бөлүшүүчү улут (бөлүшүүдөгү жалгандык)
• AI Alliances Nation (мүмкүн болушунча көп альянстарды түзүүгө аракет кылуу)
• AI оюнда эмес улут (AGI издөө улуттук артыкчылык эмес)
• AI алдаган улут (тескери инженерия же башка элдерден тымызын уурдоо)
• башка

Эл бир эле учурда бир нече чакада болушу мүмкүн.

Эл ошол чакалардын биринде бир аз убакытка чейин болуп, чакадан чыгып, балким кийинчерээк кайра кирип кетиши мүмкүн.

AGI издөөгө байланыштуу улуттук-мамлекеттик каалоолор жана көңүл буруу - бул динамикалуу агым, ал сөзсүз түрдө улана берет жана кайсы улут жарышта кайсы жерде экенине карата кыймылдуу бута болот жана аны аныктоо үчүн туруктуу көз керек. бардык оюнчулар убакыттын бир учурда жайгашкан жерде.

Эл аралык AI мыйзамдары жана AI этикасы AGI жарышында калыстар катары

Мурунку тилкелерде мен AIны жөнгө салган мыйзамдарды иштеп чыгуу жана кабыл алуу боюнча ар кандай улуттук жана эл аралык аракеттерди карадым, караңыз бул жерде шилтеме жана бул жерде шилтеме, мисалы. Мен ошондой эле ар түрдүү элдер аныктаган жана кабыл алган AI этикасынын ар кандай принциптерин жана көрсөтмөлөрүн, анын ичинде Бириккен Улуттар Уюмунун аракетин, мисалы, ЮНЕСКОнун AI этикасынын 200гө жакын өлкө кабыл алган топтомун, караңыз. бул жерде шилтеме.

Бул жерде мен мурда кылдат изилдеп чыккан AI системаларына тиешелүү этикалык AI критерийлеринин же мүнөздөмөлөрүнүн пайдалуу негизги тизмеси:

• ачыктык
• Адилеттик & Калыстык
• Non-Maleficence
• жоопкерчилик
• Privacy
• Пайдасы
• Эркиндик жана автономия
• ишеним
• Туруктуулук
• Кадыр-барк
• Жардамдашуу

Бул AI этикасынын принциптерин AI иштеп чыгуучулары, ошондой эле AI өнүктүрүү аракеттерин башкаргандар, ал тургай, AI тутумдарын талдап жана тейлөөчү принциптер менен колдонушу керек.

AI өнүктүрүүнүн жана колдонуунун бүткүл жашоо циклиндеги бардык кызыкдар тараптар Этикалык AIнын белгиленген нормаларын сактоонун алкагында каралат. Бул маанилүү жагдай, анткени адаттагыдай, "кодерлер гана" же AIди программалагандар AI этикасынын түшүнүктөрүн карманышат. Бул жерде мурда баса белгиленгендей, AI иштеп чыгуу жана жайылтуу үчүн айыл керек, ал үчүн бүт айыл AI этикасынын осуяттарын билиши жана аларга баш ийиши керек.

Келгиле, AI жөнүндө эл аралык мыйзамдардын жана AI этикасынын осуяттарынын эл аралык жарыяларынын AGI жарышына тийгизген таасирин жана маанилүүлүгүн карап көрөлү.

AGIге умтулган элдер муну таштап, AGIнин кеңири таралган экзистенциалдык тобокелдигине бурулуп кетиши мүмкүн. Эл аралык AI мыйзамдарын жана эл аралык AI этикасынын осуяттарын киргизүү менен элдер бул багытта багыт алат деген үмүт бар. AI For Good жана алыс болуңуз AI For Bad.

Биздин ипподромдун аналогиясына ылайык, AI мыйзамдары жана AI этикасынын ой жүгүртүүлөрү жөө күлүктөрдү тректин сыртына чыгарбоого аракет кылуу сыяктуу. AGI жарышында жарлыктарды алуу үчүн зор азгырыктар бар. Бул жарлыктар бир эле учурда ошол элди жана башка элдерди негизсиз тобокелге салып, марага эртерээк алып барышы мүмкүн. Тымызын, бирок айкын мисал, мен карап чыккан кош колдонуучу AIдан турат бул жерде шилтеме, муну менен AI прогресси жакшылыкка багытталгандан катаклизмдик жамандыкты жаратууга чейин көп күч-аракет менен оңой которулат.

Эл аралык AI мыйзамдары жана эл аралык AI этикасы калыстарга же калыстарга окшош деп ырастасаңыз болот.

Бул эл аралык деңгээлде иштелип чыккан укуктук жана этикалык механизмдер AGI жарышын дагы бир калыпта кармайт деген божомол бар. Кеп, кайсы бир мамлекеттер калыстарга же калыстарга көңүл бурабы, бул башка маселе. Анын сыңарындай, ошол бийликтер жөө күлүктөрдү туура жолдо кармап туруу үчүн кандай жаза же стимул бере алат деген кыжырданган суроо бар. Мүмкүнчүлүктөр, элдер өздөрү каалагандай кылышат, бул үчүн башка элдер кээ бир элдер жасай турган эрежелерди бузууну колдоо үчүн өз салмагын өзгөртүүгө муктаж болушу мүмкүн.

жыйынтыктоо

Легендарлуу химик жана микробиолог Луи Пастер мындай деген: «Илим эч бир өлкөнү тааныбайт, анткени билим адамзаттыкы жана дүйнөнү жарыктандырган факел. Илим улуттун эң бийик инсандыгы болуп саналат, анткени ошол эл эң биринчи ой-жүгүртүү жана акыл эмгегин алып жүрүүчү болуп кала берет».

AGI жетүү эч бир өлкөнү тааныбайт жана AGI бүткүл адамзатка таандык болот деп айта алабызбы?

Же АГИге биринчи келген эл ага ээ болуп, кордукка мас болуп, бийлик жинди болуп кетеби?

Бул табышмакты бир аз бурмалоону жактыргандар үчүн, AGI өзү чөптөгү ылакап жылан болгон жетишкендиктин түрү болушу мүмкүн деп эсептеңиз. Жыланды ачкан адам биринчи болуп жылан чаккан болушу мүмкүн. Биринчи болуу өз коркунучтары бар.

AGI боюнча финиш сызыгын кесип өтүү сөзсүз түрдө айрымдар ойлогондой майрамдык жана бейкапар боло бербейт. Ошондой эле AGI колдонуу оңой болбойт. Кээ бирөөлөр AGI менен күрөшүү дээрлик мүмкүн эмес деп айтышы мүмкүн, анткени AGI адамзатка окшош куулук жана тапкычтыкка ээ болот. Мамлекеттер эмнеге жетүү үчүн аракет кылып жатканын жана анын натыйжасы кандай болорун алдын ала ойлонушу керек жана таң калыштуу эмес. Алардын улуттук казына сандыгында мүйүз уясы болушу мүмкүн.

Пастер айткандай: "Байлык даярдалган акылды жактырат".