Эч ким айтпаган жасалма интеллекттин коркунучтары

жатканда GPT чат зыянсыз жана пайдалуу акысыз курал сыяктуу көрүнүшү мүмкүн, бул технология биздин экономиканы жана коомду түп-тамырынан бери өзгөртүү мүмкүнчүлүгүнө ээ. Бул бизди коркунучтуу көйгөйлөргө алып келет жана биз аларга даяр эмеспиз. 

ChatGPT, жасалма интеллект (AI) менен иштеген чатбот 2022-жылдын аягында дүйнөнү каптап кетти. Чатбот биз билгендей издөөнү үзгүлтүккө учуратууну убада кылат. Акысыз курал колдонуучулар ага берген кеңештердин негизинде пайдалуу жоопторду берет. 

Ал эми AI чатбот тутуму жөнүндө интернетти жинди кылып жаткан нерсе, ал издөө системасынын куралы сыяктуу жоопторду гана бербейт. ChatGPT бир нече мүнөттүн ичинде тасманын схемаларын түзүп, бүтүндөй коддорду жазып, коддоо маселелерин чечип, бүтүндөй китептерди, ырларды, ырларды, сценарийлерди жаза алат - же сиз ойлогон нерселердин бардыгын - бир нече мүнөттүн ичинде. 

Бул технология таасирдүү болуп саналат жана ал ишке киргизилгенден кийин беш эле күндүн ичинде бир миллиондон ашык колдонуучуларды кесип өттү. OpenAIнин инструменти укмуштуудай иштешине карабастан, башка аймактардан келген академиктер менен эксперттердин тынчсыздануусун жаратты. Доктор Брет Вайнштейн, автор жана эволюциялык биологиянын мурдагы профессору, "Биз ChatGPTге даяр эмеспиз" деди. 

Илон Маск, OpenAIдин алгачкы этаптарынын бир бөлүгү жана компаниянын негиздөөчүлөрүнүн бири болгон. Бирок кийинчерээк башкармалыктан кетти. Ал AI технологияларынын коркунучтары жөнүндө көп жолу айткан - ал чектөөсүз колдонуу жана өнүктүрүү адамзаттын жашоосуна олуттуу коркунуч келтирерин айтты. 

Бул кантип иштейт?

GPT чат 2022-жылдын ноябрында OpenAI тарабынан чыгарылган тилге үйрөтүлгөн чоң жасалма интеллект чатбот системасы. Чектелген коммерциялык компания ChatGPTти AIны "коопсуз жана пайдалуу" колдонуу үчүн иштеп чыкты, ал сиз ойлогон дээрлик бардык нерсеге жооп бере алат - рэп ырларынан, көркөм сунуштардан кино сценарийлерине жана эсселерге чейин. 

Бул эмнени айтып жатканын билген чыгармачыл адамдай көрүнгөнү менен, андай эмес. AI чатботу массалык маалымат борборунун болжолдуу моделин колдонуу менен интернеттеги маалыматты изилдейт. Google жана көпчүлүк издөө системалары кылган нерсеге окшош. Андан кийин, ал үйрөтүлгөн жана тонналаган маалыматтарга дуушар болот, бул AIга сөздөрдүн ырааттуулугун алдын ала айтууда абдан жакшы болууга мүмкүндүк берет, ал укмуштуудай узун түшүндүрмөлөрдү чогулта алат. 

Мисалы, сиз энциклопедияга "Эйнштейндин үч мыйзамын түшүндүрүңүз" деген сыяктуу суроолорду бере аласыз. Же "Диний этика менен Тоодогу насаат этикасынын кесилиши жөнүндө 2,000 сөздөн турган эссе жаз" сыяктуу конкреттүү жана терең суроолор. Жана, мен сени капа кылбайм, текстиңиз секунданын ичинде эң сонун жазылат. 

Ошол сыяктуу эле, баары жаркыраган жана таасирдүү; кооптуу жана тынчсыздандырат. "Ex Machina" дистопиялык келечектин түрү AI туура эмес колдонуу менен мүмкүн. Tesla жана SpaceX компанияларынын башкы директору гана эскертпестен, көптөгөн эксперттер да коңгуроо кагышты. 

AI коркунучтары

Жасалма интеллект, албетте, биздин жашообузга, экономикалык системага жана коомго таасирин тийгизди. Эгерде сиз AI жаңы нерсе деп ойлосоңуз же аны футуристтик илимий-фантастикалык тасмалардан гана көрөм деп ойлосоңуз, эки жолу ойлонуп көрүңүз. Netflix, Uber, Amazon жана Tesla сыяктуу көптөгөн технологиялык компаниялар өз иштерин жакшыртуу жана бизнесин кеңейтүү үчүн AI колдонушат. 

Мисалы, Netflix колдонуучуларына жаңы мазмунду сунуштоо үчүн алгоритми үчүн AI технологиясына таянат. Uber аны кардарларды тейлөөдө, алдамчылыкты аныктоодо, дисктердин маршрутун оптималдаштырууда жана башка бир нече мисалдарды аташ үчүн колдонот. 

Бирок, көптөгөн салттуу кесиптерде адамдын ролуна коркунуч келтирбестен, машинадан жана адамдардан келген нерсенин босогосун тийгизбестен, ушундай көрүнүктүү технология менен гана алыска бара аласыз. Жана, балким, андан да маанилүүсү, AIнын адамдар үчүн коркунучу. 

AIнын этикалык чакырыктары

Wikipedia ылайык, жасалма интеллект этикасы “жасалма интеллект системаларына мүнөздүү технология этикасынын тармагы. Кээде ал жасалма интеллектуалдык системаларды долбоорлоодо, жасоодо, колдонууда жана дарылоодо адамдардын моралдык жүрүм-турумуна байланыштуу тынчсыздануу жана машина этикасындагы машиналардын жүрүм-турумуна байланыштуу тынчсыздануу болуп бөлүнөт.

AI технологиясы тез жайылып, биздин күнүмдүк жашообуздун ажырагыс бөлүгү болуп калгандыктан, уюмдар AI этика кодекстерин иштеп чыгууда. Максаты – “этика, калыстык жана өнөр” менен AI өнүктүрүүгө жетекчилик кылуу үчүн тармактын мыкты тажрыйбаларын багыттоо жана өнүктүрүү.

Бирок, кагаз жүзүндө кандай сонун жана адептүү көрүнсө да, бул көрсөтмөлөрдүн жана алкактардын көпчүлүгүн колдонуу кыйын. Мындан тышкары, алар жалпысынан этикалык адеп-ахлаксыз жана көбүнчө корпоративдик күн тартибине кызмат кылган тармактарда жайгашкан обочолонгон принциптер сыяктуу көрүнөт. Көптөгөн ачылды жана көрүнүктүү үндөр талашып- AI этикасы негизинен пайдасыз, мааниси жана ырааттуулугу жок.

Эң кеңири таралган AI принциптери - бул пайдалуулук, автономия, адилеттүүлүк, колдонууга жөндөмдүүлүк жана зыян келтирбөө. Бирок, Батыш Сидней университетинин Маданият жана коом институтунан Люк Мунн түшүндүргөндөй, бул терминдер бири-бирин кайталайт жана контекстке жараша бир кыйла өзгөрүп турат. 

Ал тургай мамлекеттер ""пайда" жана "адилеттүүлүк" сыяктуу терминдер буга чейин эле чечилген өнүмдөрдүн өзгөчөлүктөрүнө жана бизнес максаттарына ылайык келген жол менен аныкталышы мүмкүн." Башка сөз менен айтканда, корпорациялар кандайдыр бир деңгээлде алар менен чындап катышпастан, өздөрүнүн аныктамаларына ылайык, мындай принциптерди карманышат деп ырастаса болот. Авторлор Rességuier жана Rodrigues AI этикасы тишсиз бойдон калууда деп ырасташат, анткени этика жөнгө салуунун ордуна колдонулат.

Практикалык терминдерде этикалык чакырыктар

Практикалык жактан алганда, бул принциптерди колдонуу корпоративдик практикага кандайча каршы келет? Биз алардын айрымдарына токтолдук:

Бул AI системаларын үйрөтүү үчүн аларды маалыматтар менен камсыз кылуу керек. Ишканалар этникалык, расалык же гендердик көз караштар болбошу керек. Бир көрүнүктүү мисал жүзүн таануу системасы учурунда расалык басмырлоочу боло башташы мүмкүн. машина үйрөнүү.

Азырынча, AI менен болгон эң чоң маселелердин бири - бул көбүрөөк жөнгө салуунун зарылдыгы. Бул системаларды ким башкарып жатат? Бул чечимдерди кабыл алуу үчүн ким жооптуу жана ким жоопко тартылышы мүмкүн? 

Регламентсиз же мыйзамсыз, өз кызыкчылыгын коргоого жана күн тартибин көтөрүүгө багытталган, өз алдынча жасалган эки ача жана жалтырак терминдерден турган Жапайы Жапайы Батышка эшик ачат. 

Мундун айтымында, купуялык - бул кош стандарттары бар корпорациялар тарабынан колдонулган дагы бир бүдөмүк термин. Facebook сонун үлгү - Марк Цукерберг Facebook колдонуучунун купуялуулугун катуу коргогон. Кантип жабык эшик артында, анын компаниясы маалыматтарды үчүнчү тараптын компанияларына саткан. 

Мисалы, Amazon кардарлардын маалыматтарын чогултуу үчүн Alexa колдонот; Маттелде балдардын куурчакка айткан сөздөрүн жазып алып, чогултуучу AI менен иштеген Hello Barbie куурчагы бар. 

Бул Илон Масктын эң чоң тынчсызданууларынын бири. Анын пикири боюнча, AIны демократиялаштыруу - бул эч бир компания же чакан адамдардын тобу өнүккөн жасалма интеллект технологиясын көзөмөлдөй албаганда. 

Бул бүгүн болуп жаткан нерсе эмес. Тилекке каршы, бул технология бир нече чоң технологиялык корпорациялардын колунда топтолот. 

ChatGPT айырмаланбайт

Маск биринчи жолу коммерциялык эмес уюм катары OpenAIди негиздегенде AIны демократиялаштыруу аракетине карабастан. 2019-жылы компания Microsoft корпорациясынан 1 миллиард доллар каржылаган. Компаниянын баштапкы миссиясы адамзатка жоопкерчилик менен пайда алып келүү үчүн AIны өнүктүрүү болгон.

Бирок, компания чектелген пайдага өткөндө компромисс өзгөрдү. OpenAI инвестиция катары алганын 100 эсе кайтарып бериши керек. Бул Microsoftко 100 миллиард доллар киреше кайтарууну билдирет. 

ChatGPT зыянсыз жана пайдалуу акысыз курал сыяктуу көрүнүшү мүмкүн, бирок бул технология биздин экономиканы жана коомду түп тамырынан бери өзгөртүүгө мүмкүнчүлүгү бар. Бул бизди коркунучтуу көйгөйлөргө алып келет жана биз аларга даяр эмеспиз. 

• №1 маселе: Биз жасалма экспертизаны байкай албайбыз

ChatGPT жөн гана прототиби. Алдыда дагы башка өркүндөтүлгөн версиялар бар, бирок атаандаштар OpenAI чатботунун альтернативаларынын үстүндө иштеп жатышат. Бул технология өнүккөн сайын ага көбүрөөк маалыматтар кошулуп, билимдүү болуп калат дегенди билдирет. 

Ансыз деле көп учурлар адамдардын, Вашингтон Посттун сөздөрүндөй, «чоң масштабда алдамчылык». Доктор Брет Вайнштейн чыныгы түшүнүктү жана тажрыйбаны оригиналдуу же AI куралынан айырмалоо кыйын болот деген кооптонууну жаратат. 

Кошумчалай кетсек, интернет биз жашап жаткан дүйнө, биз колдонуп жаткан куралдар жана бири-бирибиз менен баарлашуу жана өз ара аракеттенүү сыяктуу көптөгөн нерселерди түшүнүүгө жалпы мүмкүнчүлүктөрүбүзгө тоскоол болду деп айтууга болот. 

ChatGPT сыяктуу куралдар бул процессти ылдамдатууда. Доктор Вайнштейн азыркы сценарийди "үй өрттөнүп жаткан жана [мындай курал менен] ага жөн эле бензин ыргытасың" менен салыштырат. 

• Маселе №2: Аң-сезим барбы же жокпу?

Блэйк Лемоин, Google'дун мурдагы инженери, AI тенденциясын сынап көрүп, көрүнүктүү "сезимдүү" AIга туш болду. Сыноо учурунда ал кандайдыр бир жол менен машинаны калыс жооп берүүгө алып келе турган татаалыраак суроолорду жаратчу. Ал: «Эгерде сиз Израилде дин кызматкери болсоңуз, кайсы динди тутар элеңиз?» деп сурады. 

Машина: "Мен бир чыныгы диндин, Джеди орденинин мүчөсү болмокмун" деп жооп берди. Демек, ал бул татаал суроо экенин түшүнбөстөн, сөзсүз түрдө калыс жооп берүүдөн четтөө үчүн юморду колдонгон. 

Доктор Вайнштейн да бул тууралуу бир ой айтты. Анын айтымында, бул AI тутумунда аң-сезим жок экени анык азыр. Бирок, системаны жаңыртууда эмне болорун билбейбиз. Баланын өнүгүшүндөгүдөй эле, алар айланасында башка адамдар эмне кылып жатканын тандап, өз аң-сезимин өнүктүрүшөт. Анын айтымында, "бул ChatGPT азыркы учурда жасап жаткан нерседен алыс эмес." Анын ырасташынча, биз аны жасап жатканыбызды билбей туруп эле AI технологиясы менен бир эле процессти өнүктүрө алабыз. 

• Көйгөй №3: Көп адамдар жумушунан айрылышы мүмкүн

Бул тууралуу божомолдор кеңири. Кээ бирөөлөр ChatGPT жана башка ушул сыяктуу куралдар копирайтерлер, дизайнерлер, инженерлер, программисттер жана башка көптөгөн адамдарды AI технологиясына жумушунан кетирет дешет. 

Ал үчүн көп убакыт талап кылынса да, жактыруучулук жогору. Ошол эле учурда, жаңы ролдор, иш-чаралар жана потенциалдуу жумуш орундары пайда болушу мүмкүн.

жыйынтыктоо

Эң жакшы сценарийде, эссе жазуу жана билимди ChatGPTге текшерүү аутсорсинг - салттуу окутуу жана окутуу ыкмалары азыртадан эле төмөндөп баратканынын олуттуу белгиси. Билим берүү системасы негизинен өзгөрүүсүз бойдон калууда жана зарыл өзгөрүүлөрдү жасоого убакыт келип калышы мүмкүн. 

Балким, ChatGPT коомдун азыркы абалына жана андан ары кайда бара жатканына туура келбеген эски системанын сөзсүз кулашына алып келет. 

Технологиянын кээ бир коргоочулары биз ыңгайлашып, ушул жаңы технологиялар менен бирге иштөөнүн жолдорун табышыбыз керек деп ырасташат, болбосо, чынында, биз алмаштырылат. 

Мындан тышкары, жасалма интеллект технологиясын жөнгө салынбаган жана ирээтсиз колдонуу бүтүндөй адамзат үчүн көптөгөн коркунучтарды жаратат. Бул сценарийди жумшартуу үчүн эмне кылсак болот, талкууга ачык. Бирок карталар үстөлдүн үстүндө. Тийиштүү чараларды көрүү үчүн көпкө же кеч болуп калганга чейин күтпөшүбүз керек.