Эмне үчүн сизде дагы деле өзүн өзү башкарган унаа жок? Бул 2-бөлүк сериясы чоң калган көйгөйлөрдү түшүндүрөт

Адамдар көп сурашат: "Менин өзү башкарган унаам кайда?" "Эмне үчүн менде жок жана ал качан келет?" Көптөгөн адамдар 20 жаштагы өспүрүмдөр аларга машине берүүнү убада кылышкан жана кеч болуп калды, балким, ондогон жылдар мурун айтылган учуучу машиналар сыяктуу, келбей калды деп ойлошот.

Бул эки макаладан турган серияда (коштоочу видеолор менен) келгиле, бүгүн роботокар айдабай жатканыңыздын негизги себептерин жана ал качан болушу мүмкүн экенин карап көрөлү. Негизги технологиялык, укуктук жана социалдык көйгөйлөр кайсылар, жана кайсы маселелер чындыгында блокаторлор эмес?

Көпчүлүгүбүз үчүн бул унаалар бул жерге тез жете албайт. Алар дүйнө жүзү боюнча жыл сайын миллиондон ашуун адамдын өмүрүн алып жаткан бүгүнкү автокырсыктардын татыктуу бөлүгүн болтурбоо убадасына ээ. Алар биздин жашообузду жеңилдетип, транспорттун принциптерин кайра жазат. Муну менен алар биз жашаган жерди жана шаардын табиятын, ошондой эле энергетикадан чекене соодага чейинки ондогон башка тармактарды кайра жазышат. Күн сайын биз бул нерселерди жолго чыгарууну кечиктирсек, миңдеген адамдар унаа айдабашы керек болгон адамдардын колунан өлүшөт. Күн сайын кечиктирип жатабыз.

Албетте, кыйын

Ачык айтканда, “бул ушунча убакытка созулуп жатат” деген эң чоң себеп – бул кыйын. Эң чоң программалык камсыздоону изилдөө долбоорлорунун бири. Бул жөн гана программалык камсыздоону эмес, ошондой эле көптөгөн өзгөчө учурларды жана дүйнөнү жана анын бардык бырыштарын картага түшүрүү үчүн отоо чөптөрдүн үстүндө тонналаган деталдуу иштерди талап кылды. Аны график боюнча жеткирүү мүмкүн деп ойлогон же ойлогон адам туура эмес жана мурда эч качан программалык камсыздоодо иштеген эмес. Автоунаа компаниялары 2020-жылга окшогон даталарды жокко чыгарганда, бул божомолдор эмес, үмүт болгон жана кээ бир технологиялык компаниялар чындыгында муну жокко чыгарганы таң калыштуу болду. Ийгиликтерди талап кылган көп жылдык долбоорлор эч качан так алдын ала айтылбайт.

Эгерде көп жылдар мурун жасалган мындай чоң долбоор боюнча божомолдор так болбосо, программалык камсыздоону билген эч ким таң калмак эмес. Ошентип, алар оптимисттик үмүттөргө ээ болбосо да, «графиктен артта» калган жок. Бул дагы майда кадамдар менен жасалып жатканын билдирет.

Эң чоң бөгөт коюучу бул иш жүзүндө муну жасоо эмес (б.а. аны коопсуз кылуу), бирок сиз муну жасаганыңызды билүү.

Сиз аны чындап коопсуз кылганыңызды далилдеп турат

Биринчи технологиялык максат аны ишке ашыруу эле. Өзүн коопсуз айдай ала турган машина жасоо. Бул чоң жетишкендик, бирок, жок эле дегенде, бир нече шаарларда, бир нече компаниялар буга чейин эле тартып алышкан. Финикстин жеңил көчөлөрүндө Waymo сыяктуу компаниялар тарабынан орточо адамга караганда коопсуз айдоо жасалган. Бул "кыйын бөлүгү" болду, бирок андан да кыйыны - коопсуздук деген эмне экенин аныктоо, аны өлчөө жана аны жасаганыңызды далилдөө. Муну өзүңүзгө, коллегияңызга, юристтериңизге, коомчулукка, балким өкмөткө да далилдешиңиз керек. Модерна Ковид вакцинасы 2020-жылдын февралында даяр болгон сыяктуу, биринчи блокадага чейин, дүйнө 10 ай күттү, ал эми миллиондогон адам ансыз өлдү - биринчи адамдарга ок атуудан мурун. Биз алардын жасаганын далилдеши үчүн күттүк.

Коопсуздукту өлчөө абдан кыйын. Биз адам айдоочулардын ар кандай түрдөгү кырсыктарга кабылганын билебиз, майда кырсыктардан адам өлүмүнө чейин. Өлүмдөр АКШда ар бир 80 миллион миль, же болжол менен 2 миллион сааттык айдаганда болот. Биз программалык камсыздоонун ар бир версиясын сынай албайбыз: "Келгиле, ал бир миллиард миль айдасын жана адамдар ушунча алыстыкка барса, өлүп кала турган ондогон кишиден азыраак өлүп калбасын көрөлү". Ар бир жаңы версияны айтпаганда да, чыныгы жолдордо бир жолу жүрүү мүмкүн эмес аралык. Биз бир топ азыраак айдап, кыйроолор менен майда кырсыктарды санайбыз – чындыгында бул биз ойлоп тапкан эң жакшысы, анткени бул эң жок дегенде мүмкүн – бирок бул роботтордон болгон жаракаттарга да ошондой эле тиешеси бар-жогун билбейбиз. адамдар менен кылат.

Көптөр салттуу унаа өнөр жолун башташат. Алар ишенимдүү жана спецификацияга ылайыктуу экенине ынануу үчүн унааларынын ар бир компонентин сынашат. Алар муну компоненттердин системалары менен жасоого аракет кылышат, бирок нерселер татаалдашып кеткенде ал методология кыйындайт. Бул функционалдык коопсуздук деп аталат - бул компоненттер жана системалар кемчиликсиз жана алар белгилүү мүмкүн болгон каталарды чече алабы.

Жакында муну системалык деңгээлге көтөрүү жана “Белгиленген функциянын коопсуздугун” сынап көрүү үчүн көбүрөөк аракеттер көрүлдү. SOTIF менен, командалар көйгөйлөр жана компоненттердин бузулушу жана күтүлгөн туура эмес колдонуу менен бүтүндөй системалар дагы эле иштей тургандыгына кепилдик берүү үчүн иштешет. Бул көбүнчө бүт системаны, же анын бөлүктөрүн симуляциялоону, же жолдордогу жандуу тестирлөөгө караганда жеңилирээк жана коопсузраак болгон "укуруктагы аппараттык" симуляцияны камтыйт.

Симуляциялык тестирлөө системаны миллиондогон ар кандай сценарийлерде сыноо мүмкүнчүлүгүн сунуш кылат. Кимдир бирөө көргөн, уккан, же кыялданган нерселердин бардыгын - жүздөгөн кичинекей вариациялар менен.

Балким, сыноо үчүн эң кыйын нерсе, бирок сиз эң билгиңиз келген нерсе - системанын мурда болуп көрбөгөн кырдаалдарга канчалык жакшы жооп берери. Унаанын дээрлик бардык күтүлгөн кырдаалдарда жакшы иштээрин билүү үчүн симуляциялык тестти түзө алсаңыз да, адам акылынын сыйкырдуу жөндөмү - мурда болуп көрбөгөндөй көйгөйлөрдү чечүү жөндөмдүүлүгү. AI муну жасай алат, бирок алар анчалык деле жакшы эмес. Акыр-аягы, биз күн сайын жаңы, реалдуу, коркунучтуу сценарийлерди алуунун жолун үмүттөнмөкпүз. Бүгүнкү күндө сиздин унааңыз кимдир бирөө ойлогон нерселердин баарын чечүүгө программаланганы жакшы, бирок чыныгы алтын стандарт күн сайын буга чейин болуп көрбөгөн 20 жаңы кырдаалды ыргытып, алардын көбүн башкараарын билүү болушу мүмкүн. Жада калса адамдар да алардын баарын чечпейт. Бул бир нерсе, мен аркылуу ишке ашат деп үмүттөнөм Коопсуздук бассейн долбоору, Мен Дүйнөлүк Экономикалык Форум, Deepen.AI жана Уорвик университетинин демилгесин көтөрүүгө жардам бердим.

Бардык симуляциялар менен да сиз жолдо түз сынап көрүшүңүз керек. Чыныгы дүйнөнү абдан жакшы башкара албаган машинаны эч ким иштетпейт. Кымбат болсо да, роботтордун ишин көзөмөлдөө үчүн адам коопсуздугу үчүн айдоочуларды колдонуу системасы чындыгында эң сонун тажрыйбага ээ жана жөнөкөй адамдардын айдоосуна салыштырмалуу коомчулукка коркунуч туудурбайт.

Өнөр жайда ар бир компания коопсуздукка канчалык берилгендигин сүрөттөө үчүн өзүнөн-өзү кулайт. Алардын милдети коопсуз унаа жасоо, бирок алар бул декларацияларды аткаминерлерге жана коомчулукка жагуу үчүн жасашат. Таң калыштуусу, коомдук кызыкчылык эң коопсуз робокарларды жасоо эмес, тескерисинче эң коопсуз жолдор. Робокарлар коопсуз жолдорду алып келе турган курал жана алар бул жакка канчалык эрте жетсе, ошончолук тезирээк жана жакшыраак жасай алышат. Чиновниктер, эгерде алар жалпы жол коопсуздугун жакшыртууга олуттуу мамиле кылышса, чындыгында компанияларды коопсуздук боюнча өтө алыска барбоого, анын ордуна коопсуз технологияны тезирээк жайылтууга үндөшмөкчү. , муну тезирээк ишке ашырат. Бирок алар эч качан болбойт, анткени коомдун каталарга жана тобокелдиктерге реакциясы.

Коопсуздуктун экинчи компоненти - киберкоопсуздук. Бизге бул унаалар аларды басып алуу аракеттерине каршы бекем болушу керек. Кээ бир адамдар киберкоопсуздук жөнүндө сүйлөшкүсү келбейт, бирок автоөнөр жайынын өткөн тарыхы чоң болгон эмес. Муну жасоо коопсуз практикаларды жана куралдарды эле эмес, ошондой эле “кызыл команда” деп аталган нерсени да камтыйт, мында ак калпак кийген эксперттик хакерлер тобу башка таппай калганга чейин аялуу жерлерди табуу үчүн сырттан аңчылык кылышат. Дагы бир маанилүү инструменттердин бири - туташууну азайтуу же коопсуздуктун адамдары "чабуул беттери" деп атаган нерсе. Өнөр жайда иштегендердин көбү "туташкан унаа" деп ойлогон нерсе менен алпурушуп, туташууну өзүн-өзү башкаруу сыяктуу чоң революция деп эсептешет. Ал эмес, алыстан эмес. Кээ бир туташуу керек, бирок чыныгы революция коопсуз болушу үчүн аны үнөмдүү колдонуу керек.

Сыноодогу эң чоң көйгөйлөрдүн бири - бардык роботокар командалары тарабынан машина үйрөнүүнү кеңири колдонуу. Машина үйрөнүү - бул өтө күчтүү AI куралы жана көпчүлүгү аны маанилүү деп эсептешет, бирок ал чечим кабыл алган, бирок эч ким толук түшүнбөгөн "кара куту" куралдарын чыгарат. Эгер сиз системанын кантип иштеп жатканын, эмне үчүн ал иштебей калганын же туура иш кылып жатканын билбесеңиз, аны текшерүү жана сертификаттоо кыйынга турат. Европада алар бардык AI кандайдыр бир деңгээлде "түшүндүрүлүшүн" талап кылган мыйзамдарды кабыл алып келишет, бирок көптөгөн машина үйрөнүү тармактарын түшүндүрүү абдан кыйын. Бул коркунучтуу, бирок алар ушунчалык күчтүү болгондуктан, биз алардан баш тартпайбыз. Биз кара кутуга туш болушубуз мүмкүн, ал тестирлөөдө түшүндүрүлүүчү системага караганда эки эсе коопсуз жана адамдар эки тандоонун пайдасына ынандырарлык аргументтер бар.

алдын ала айтуу

Робокар сенсорлор менен капталган, мисалы, камералар, радарлар, LIDAR лазерлери жана башкалар. Сенсорлор, балким, аппараттык жабдыктын эң көп талкууланган аспектиси, бирок чындыгында сенсорлор сизге эмнени билгиңиз келгенин такыр айтпайт. Себеби сенсорлор азыр нерселер кайда экенин айтып турат, бирок сиз буга анча маани бербейсиз. Келечекте кайсы жерде боло турганы сизге кызык. Сенсорлордон алынган маалымат келечекти алдын ала айтуунун чыныгы максатына бир гана белги. Бир нерсенин кайда экенин жана анын канчалык ылдам жылып жатканын билүү жакшы башталыш, бирок анын эмне экенин билүү анын кайда болорун билүү үчүн да маанилүү. Жолдогу же ага жакын жайгашкан объекттердин көбү баллистикалык эмес – адам башкарат жана багытын өзгөртө алат. Мына ошондуктан, бүгүнкү күндө изилдөөнүн негизги багыттарынын бири жолдо бараткан башкалардын, атап айтканда, адамдар эмне кыларын алдын ала билүү болуп саналат. Бул айдоо жүрүм-турумун билүүдөн баштап, бурчта турган жөө жүргүнчү жөө жүргүнчүлөр өтүүчү тилкеге ​​кирүүгө аз калганын же интернетте сейилдеп жатканын аныктоого чейин болушу мүмкүн.

Бир нече команда чоң ийгиликтерге жетишкени менен, адамдар башка адамдарды алдын ала айтууда азыркы роботторго караганда жакшыраак экен. Айрыкча, бош эмес шаарлар сыяктуу татаалыраак чөйрөлөрдө муну жакшыраак билүү, аткарыла турган иштердин тизмесиндеги негизги көйгөйлөрдүн бири. Келечекти болжолдоо, ошондой эле башкалардын сиздин кыймылыңызга жана башкалардын болжолдонгон кыймылдарына кандай мамиле кыларын алдын ала айтууну камтыйт. Жолдун биригүүсү же корголбогон солго бурулуш берүү жана алуу бийи болушу мүмкүн, ал эми робокарлар тынымсыз өздөрүнүн ишин жакшыртууга аракет кылышат.

Тезирээк сезүү

Сенсорлор чыныгы максатка жетүү үчүн гана каражат болушу мүмкүн, бирок алар канчалык жакшы болсо, келечекти ошончолук жакшыраак алдын ала айта аласыз. Командалар дагы эле кабылдоону жана алдын ала айтууну тездетүү үчүн сенсорлорду тезирээк жасоону издеп жатышат. Маанилүү бир нерсе - кыймылдуу объекттердин ылдамдыгын билүү. Радар муну сизге айтат, бирок сиз бир нече кадрды карамайынча камералар жана эски LIDARлар андай эмес. Кээ бир жаңы LIDARs сизге ылдамдыкты жана аралыкты айта алат. Бир нече кадрды кароо, жок эле дегенде, кадрларды алуу сыяктуу көп убакытты талап кылат, бирок, адатта, көбүрөөк.

Көйгөй болушу мүмкүн болгон жагдайлардын бири чоңураак унаанын артында чоң жолдо жүрүү. Элестеткиле, ал унаанын алдында жүк ташуучу унаа ийнинде токтоп, тилкеге ​​жабышып турат. Бул кырсыктар жана тез жардам унаалары менен көп болот. Күтүлбөгөн жерден алдыңыздагы чоң унаа тоскоолдуктан качуу үчүн оңго бурулуп, токтоп калган жүк ташуучу унааны биринчи жолу көрүп жатасыз. Сизде чындап эле тормоз кылууга же бурулууга көп убактыңыз жок, жада калса барар жериңиз да жок болушу мүмкүн. Эгер сиз видеонун 3 кадрын карап көрсөңүз, ал чындап эле кыймылдабай жатканын көрүшүңүз керек болсо, бул секунданын 1/10 бөлүгү текке кеткен болушу мүмкүн жана бул маанилүү жагдай. Ошентип, көптөгөн командалар бул чекке жетүүнүн жолдорун издеп жатышат жана алар муну көбүнчө лазер менен урган нерселердин ылдамдыгын билүү үчүн "Доплер" өлчөөчү LIDARлардан табышты. Радарлар ылдамдыкты да билишет, бирок дүйнө радарды чагылдырган токтоп калган объекттерге толгон жана токтоп калган унааны анын жанындагы токтоп калган тосмодон айырмалоо кыйын.

Узак жолду алуу

Мен кыскача айтып кетейин, себеби бир атактуу команда - ТеслаTSLA
– Азырынча даяр эмес, алар атайылап маселени кыйындатканга аракет кылып жатышат. Ар бир команда компьютердик көрүнүштү көп колдонсо да, Тесла аны 2016-жылдан баштап компьютердик көрүү жана камералар менен гана иштөөнү каалайт. Башка командалардын көбү да куралдар кутусуна жакшыраак камераларды, LIDAR, радарларды жана карталарды кошот. Тесла аны арзаныраак кыла турган көрүнүш ачылышын каалайт. Алардын айтымында, бул кошумча куралдардын баары алаксытуу. Ал эми калган өнөр жай, аны эртерээк бүтүрүү үчүн бардык куралдарды колдонууну каалайт, эгер көбүрөөк чыгым болсо, жана Тесла өзүн аксатып жатат деп ойлойт. Азырынча буюмдун сапаты боюнча - Tesla FSD олуттуу артта калды - башкалары туура, бирок жарыш бүтө элек.

Бул биринчи бөлүк. Экинчи бөлүктө жолдордун жакшы жараны болуу, эмне үчүн робот унаалар дароо бардык жерде эмес, бир шаарга жайгаштырылып жатканы жана атчандарды, бизнес моделдерин алып кетүү сыяктуу жөнөкөй логистика менен күрөшүү көйгөйлөрү каралат. өкмөттөр менен коомчулуктун сизди кабыл алышы үчүн, колдонмолор жана коопсуздук жөнүндө өтө көп тынчсыздануу. Мен ошондой эле иштеп жаткан, бирок жайгаштыруу үчүн реалдуу блокаторлор болбогон бир нече факторлорду тизмектейм. Жакынкы күндөрү экинчи бөлүгүн издеңиз.

Кээ бирөөлөр 2022-жылы роботокардын жок же мингени өнүгүү графиктен бир топ артта калганын билдирет деп эсептешет. Чындыгында эч качан олуттуу график болгон эмес, үмүт гана болгон, бирок чындыгында бул көйгөйлөрдүн тизмеси оптимизмди билдирет, анткени бул калган көйгөйлөр жалпысынан чечиле тургандай сезилет. Алардын көбү менен күрөшүү үчүн жетишкендиктер эмес, талыкпаган эмгек жана акча керек.

Экинчи бөлүгүн видео жана текст түрүндө күтүңүз

Бул баракчага, же видео баракчасына комментарий калтырсаңыз болот.