Пентагондун өлтүрүүчү роботтор боюнча жаңыланган саясаты кандай?

Бул тууралуу Пентагон жарыя кылды анын 3000.09 Директивасына жаңыртуу, алар эмнени камтыйт Курал системаларындагы автономия жана башкалар чакырышат 'өлтүргүч роботтор.' Аба күчтөрү жана ЦРУ сыяктуу азыркы учкучсуз учактар MQ-9 Орокчулар пульт менен башкарылат: адам видео экрандын алдында отурган миңдеген чакырым алыстыктагы жердеги буталарды аныктап, аларды кайчылаш сызыктарга жайгаштырат жана Hellfire ракетасы же башка курал. Автономдуу курал-жарактар ​​ар түрдүү: алар эч кандай адамдын кийлигишүүсүз эле өз буталарын тандашат. Аларды качан жана кантип колдонуу керектиги боюнча так эрежелер керек жана жаңы директива аларды бир кадам жакындатат.

Он жыл мурун 3000.09 биринчи версиясы чыкканда, автономдуу курал илимий фантастикага окшош. Азыр алар абдан реалдуу. Бул тууралуу БУУ билдирди Түркиядан келген учкучсуз учактар ​​буталарга өз алдынча чабуул жасады 2020-жылы Ливияда жана Орусия азыр Украинага ок-дарыларды жайгаштырууда. автономдуу жөндөмү.

Көптөгөн активисттер сыяктуу Campaign Killer Robots токтотуу үчүн, автономдуу курал-жарактарга тузден-туз тыюу салууну каалап, ар кандай алыскы куралдын астында кала берет маанилүү адам башкаруу бардык убакта. Бириккен Улуттар Уюму кантип талкуулап жатат көп жылдар бою мындай курал-жарактарды башкаруу.

Бирок, жаңы директива айкын көрүнүп тургандай, Пентагон башка линияны карманууда.

"DoD автономдуу системаларга да, AI системаларына да келгенде" адамдык башкаруунун" саясат стандартына дайыма каршы болуп келет". Грегори Аллен, AI башкаруу боюнча Долбоордун директору Стратегиялык жана эл аралык изилдөөлөр борбору, мага айтты. "DoD искусствосунун артыкчылыктуу термини - бул "адамдын акыл-эсинин ылайыктуу деңгээли", бул кээ бир учурларда - автономдуу байкоочу учактар ​​жана автономдуу кибер куралдардын кээ бир түрлөрү, мисалы, адам башкаруусунун тийиштүү деңгээли эч кандай болушу мүмкүн эмес экендигин чагылдырат. .”

Кандай шартта кандай автономдуу куралдарга уруксат берилет? Аллен директиванын мурунку версиясы ушунчалык түшүнүксүз болгондуктан, бул чөйрөдөгү өнүгүүгө тоскоол болгон деп эсептейт.

"Башаламандык ушунчалык кеңири жайылган, анын ичинде кээ бир DoD улук лидерлери арасында - чиновниктер саясат тарабынан гана уруксат берилген эмес, ошондой эле улук текшерүү талабынан ачык эле бошотулган кээ бир системаларды иштеп чыгуудан баш тартышты" дейт Аллен.

3000.09 оригиналында жазылган автономдуу куралдарды кароо процессине бир дагы курал жарыялангандан бери он жыл ичинде берилген эмес.

Аллен жазган бул боюнча эссе өткөн жылы CSIS үчүн төрт багытты сүрөттөп, иштөөнү талап кылган - автономдуу курал системаларын формалдуу түрдө аныктоо, саясат үчүн "AI иштетилген" деген эмнени билдирерин, кайра карап чыгуу процесси машинаны үйрөнүү моделдерин кайра даярдоону жана куралдын кандай түрлөрүн талап кыларын тактоо. оор кароо процессинен өтүү.

"DoD алардын баарын ишке ашырды" дейт Аллен.

Негизи, бул DoD термини "автономдук системаларды аскердик колдонууга байланыштуу жоопкерчиликтүү саясатты түзүүдө ачык-айкын глобалдык лидер болууга бекем жана үзгүлтүксүз берилгендигин" камсыз кылышы керек.

Бирок, боштуктар катары каралышы мүмкүн болгон кээ бир толуктоолор бар, мисалы, адамдарды бутага албаган («антиматериалдык курал») жана ракеталарды, башка учкучсуз учактарды бутага алууга уруксат берилген дрондорду коргогон автономдуу курал үчүн жогорку кароодон бошотуу. жана мүмкүн болгон башка системалар.

""Коргонуу" деген сөз бир топ иштерди жасап жатат" Зак Калленборн, деп мага Джордж Мейсон университетинин Шар саясат жана башкаруу мектебинин саясат боюнча кызматкери билдирди. "Эгер дрон душмандын аймагында иштеп жатса, дээрлик бардык курал платформаны "коргоо" катары каралышы мүмкүн."

Калленборн ошондой эле миналар сыяктуу эффективдүү автономдуу куралдар бир кылымдан ашык убакыттан бери колдонулуп келе жатканына карабастан, AI жана өзгөчө машина үйрөнүүдөгү жетишкендиктерден улам ландшафт тез өзгөрүп жатканын белгилейт. Булар абдан жөндөмдүү системаларды пайда кылды, бирок техникалык жактан морт - алар ийгиликсиз болгондо, мисалы, эч ким жасай албагандай, укмуштуудай ийгиликсиз болушат таш баканы мылтык менен чаташтыруу.

Калленборн мындай дейт: "AI аркылуу автономия, албетте, көбүрөөк тынчсызданууну талап кылат, анткени азыркы учурдагы үстөмдүк кылуучу ыкмалардын морттугу жана түшүндүрүлбөгөндүгү".

Жаңыртуу чоң эмес. Бирок бул Пентагондун эффективдүү автономдуу курал-жарактарды иштеп чыгууга болгон умтулуусун жана алар аткара ала турган ишенимин көрсөтөт. эл аралык гуманитардык укук — граждандарды аскер кызматчыларынан айырмалоо, граждандарга зыян келтирбоого умтулуу жана пропорционалдуу жана зарыл кучту гана колдонуу.

Үгүтчүлөр AI согуш учурунда моралдык баа берүү үчүн керектүү түшүнүккө ээ болбойт жана согуш автоматташтырылган жана адамдар башкара албай турган дүйнөнү түзүү коркунучу бар деп эсептешет. Башкалары америкалык аскерлер болот деп ишенишет автономиялуу куралы бар оппоненттеринен ашып түшкөн эгерде AI тактикалык деңгээлде киргизилбесе жана адамдын өтө көп катышуусу болбосо аскердик роботторду жайлатат.

Аргумент автономдуу курал-жарактар ​​пайда боло баштаганда дагы улана бермекчи жана натыйжалар кылдаттык менен байкалат. Кандай болбосун, өлтүргүч роботтор келе жаткан окшойт.