Сиздин уюмуңузга тышкы алгоритм баалоочулар керек болушунун 3 себеби

Сатта Сармах-Хайтоуэр тарабынан

Бизнес лидерлери жасалма интеллекттен (AI) мүмкүн болгон бардык баалуулуктарды кысып жатышат. 2021-жылдагы KPMG изилдөөсү өкмөт, өнөр жай өндүрүшү, каржы кызматтары, чекене соода, жашоо илими жана саламаттыкты сактоо бизнесинин лидерлеринин көпчүлүгү AI алардын уюмдарында жок дегенде орточо деңгээлде иштейт деп айтышат. Изилдөө ошондой эле респонденттердин жарымы алардын уюму Ковид-19 пандемиясына жооп катары AI кабыл алууну тездеткенин аныктайт. AI кабыл алынган уюмдарда, жок эле дегенде, жарымы технология күткөндөн ашып кетти деп айтышат.

AI алгоритмдери жекелештирилгенден баштап бүгүнкү күндөгү ар кандай өз ара аракеттенишүүлөр жана инновациялар үчүн барган сайын жооптуу болуп баратат. өнүм боюнча сунуштар жана кардар кызматы банктарга тажрыйба кредиттик чечимдер ал тургай, полициянын жообу.

Бирок алар сунуш кылган бардык артыкчылыктарга карабастан, AI алгоритмдери туруктуулук, калыстык, түшүнүктүүлүк жана бүтүндүк үчүн натыйжалуу көзөмөлдөнбөсө жана бааланбаса, чоң тобокелдиктер менен коштолот. Бизнес лидерлерине AI мониторингинде жана баалоодо жардам берүү үчүн, жогоруда келтирилген изилдөө көрсөткөндөй, а бизнес лидерлеринин саны өсүп, уюмдарга туура технологияга жана бизнес процесстерине инвестиция салууга мүмкүнчүлүк берүү үчүн өкмөттөн AIны жөнгө салышын каалашат. Керектүү колдоо жана көзөмөл үчүн, мындай кызматтарды көрсөтүүдө тажрыйбасы бар кызмат көрсөтүүчү тарабынан сунушталган тышкы баалоолорду карап чыгуу акылдуулукка жатат. Бул жерде үч себеп бар.

1. Алгоритмдер "кара кутулар"

Көйгөйлөрдү чечүү жана тапшырмаларды оптималдаштыруу үчүн берилиштерден үйрөнгөн AI алгоритмдери системаларды акылдуураак кылып, аларга түшүнүктөрдү чогултууга жана адамдарга караганда алда канча тезирээк түзүүгө мүмкүндүк берет.

Бирок, кээ бир кызыкдар тараптар бул алгоритмдерди "кара кутулар" деп эсептешет, - дейт алдынкы кесипкөй кызмат көрсөтүүчү KPMG компаниясынын аудит боюнча башкаруучу директору Дрю Розен. Тактап айтканда, айрым кызыкдар тараптар алгоритм кандайча белгилүү бир чечимге келгенин түшүнбөшү мүмкүн жана ошондуктан ал чечимдин адилеттүүлүгүнө же тактыгына ишенбеши мүмкүн.

"Алгоритмден алынган натыйжалар бир тараптуулукка жана натыйжаларды туура эмес чечмелөөгө дуушар болушу мүмкүн" дейт Розен. "Бул ошондой эле субъект үчүн кээ бир тобокелдиктерге алып келиши мүмкүн, анткени алар ошол натыйжаларды колдонуп, коомчулук жана алардын кызыкдар тараптары менен бөлүшөт."

Мисалы, туура эмес маалыматтарды колдонгон алгоритм эң жакшы учурда натыйжасыз, эң жаманы зыяндуу. Бул иш жүзүндө кандай болушу мүмкүн? Колдонуучуларга туура эмес эсеп маалыматын берген AI негизиндеги чатботту же текстти так эмес которгон тилди которуунун автоматташтырылган куралын карап көрөлү. Эки учур тең мамлекеттик органдар же компаниялар, ошондой эле ошол алгоритмдер тарабынан кабыл алынган чечимдерге таянган түзүүчүлөр жана кардарлар үчүн олуттуу каталарга же туура эмес чечмелөөгө алып келиши мүмкүн.

Кара кутудагы көйгөйгө дагы бир себеп - бул AI моделдерин иштеп чыгууга мүнөздүү бир жактуулуктун келип чыгышы, бул бир жактуу чечим кабыл алууга алып келиши мүмкүн. Кредиттик кредиторлор, мисалы, кредиттик чечимдерди кабыл алуу үчүн потенциалдуу карыз алуучулардын кредиттик жөндөмдүүлүгүн алдын ала айтуу үчүн AIны көбүрөөк колдонушат. Бирок, потенциалдуу карыз алуучунун кредиттик упайы сыяктуу AIга негизги маалыматтар киргенде тобокелдик пайда болушу мүмкүн. материалдык ката бар, бул адамдарга насыя берүүдөн баш тартууга алып келди.

Бул калыс баалоочу катары кызмат кыла ала турган жана алгоритмди колдогон тарыхый маалыматтардын жана божомолдордун актуалдуулугун жана ишенимдүүлүгүн кабыл алынган критерийлердин негизинде багытталган баалоону камсыз кыла ала турган тышкы баалоочунун зарылдыгын көрсөтөт.

2. Кызыкдар тараптар жана жөнгө салуучу органдар ачыктыкты талап кылышат

2022-жылы жооптуу AI үчүн учурдагы отчеттуулук талаптары болгон эмес. Бирок, Розен мындай дейт: "Жетектөөчү органдар ESG [экологиялык, социалдык жана башкаруу] жөнгө салууну киргизген сыяктуу. кээ бир ESG көрсөткүчтөрү боюнча отчет, бул убакыттын гана маселеси, биз жооптуу AI үчүн кошумча отчеттуулук талаптарын көрөбүз.

Чынында, 1-жылдын 2023-январынан баштап Нью-Йорк шаарында Жергиликтүү мыйзам 144 аны колдонуудан мурун автоматташтырылган иш менен камсыз кылуу чечими куралында бир тараптуу аудит жүргүзүлүшүн талап кылат.

Ал эми федералдык деңгээлде, 2020-жылдын Улуттук жасалма интеллект демилгеси актысы— а негизделет 2019-ж— AI техникалык стандарттарына жана көрсөтмөлөрүнө басым жасайт. Мындан тышкары, Алгоритмдик отчеттуулук жөнүндө мыйзам автоматташтырылган чечимдер системаларынын жана күчөтүлгөн критикалык чечимдердин процесстеринин таасирин баалоону талап кылышы мүмкүн. Ал эми чет өлкөлөрдө, Жасалма интеллект мыйзамы AI коопсуздугу, шайкештик, башкаруу жана ишенимдүүлүк боюнча конкреттүү максаттары бар комплекстүү ченемдик укуктук базаны сунуш кылган.

Бул жылыштар менен уюмдар башкаруу микроскопунун астында турушат. Алгоритмди баалоочу кызыкдар тараптардын туура эмес чечмелөө же тобокелдигине жол бербөө менен жөнгө салуучу талаптарга жооп берген жана кызыкдар тараптардын ачыктыгын арттырган отчетторду бере алат. Алданбагыла, баалоонун жыйынтыгы боюнча.

3. Компаниялар узак мөөнөттүү тобокелдиктерди башкаруудан пайда алышат

KPMGдин технологиялык кепилдиктер боюнча өнөктөшү Стив Камара AI инвестициялары өсө берет деп болжолдойт, анткени субъекттер процесстерди автоматташтыруу, кардарлардын тажрыйбасын өркүндөтүүчү инновацияларды иштеп чыгуу жана AI өнүктүрүүнү бизнес функциялары боюнча бөлүштүрүүдө. Атаандаштыкка жөндөмдүү жана кирешелүү болуп калуу үчүн уюмдар AIнын токтоосуз кемчиликтерин гана чечпестен, ошондой эле AI менен иштетилген бизнес операцияларына байланыштуу ар кандай узак мөөнөттүү тобокелдиктерди азайтуучу эффективдүү башкарууга муктаж болот.

Бул жерде тышкы баалоочулар ишенимдүү, акылдуу ресурс катары киришет. Уюмдар AIнын бүтүндүгүн бизнеске көмөкчү катары кабыл алган сайын, өнөктөштүк атайын кызматтан азыраак болуп, ырааттуу кызматташууга айланат, деп түшүндүрөт Камара.

"Биз AIны тынымсыз иштеп жаткан жана иштеткен уюмдар менен объективдүү тышкы баалоочунун ортосунда үзгүлтүксүз байланыш болушу керек болгон алдыга карай жолду көрүп жатабыз" дейт ал.

Кийинки боло турган нерсеге көз салуу

Келечекте, уюмдар жаңы моделдерди иштеп чыгууда, жаңы маалымат булактарын алууда, үчүнчү тараптын сатуучу чечимдерин интеграциялоодо же жаңы шайкештик талаптарын багыттоодо тышкы баалоолорду циклдик негизде колдонушу мүмкүн.

Кошумча жөнгө салуу жана шайкештик талаптары талап кылынганда, тышкы баалоочулар уюм AI канчалык деңгээлде жакшы орноткондугун же колдонгонун түздөн-түз баалоо үчүн кызматтарды көрсөтө алышат. Бул баалоочулар анда баа берүүнүн натыйжаларын так жана ырааттуу бөлүшүү үчүн эң жакшы позицияда болушат.

Технологияны колдонуу менен бирге анын чектөөлөрүнөн коргоо үчүн, уюм алгоритмдерди жайылтууда ачык-айкындуулукту көрсөтүү үчүн таяна турган отчетторду берүү үчүн тышкы баалоочуларды издеши керек. Ал жерден уюм да, кызыкдар тараптар да AIнын күчүн жана анын чектөөлөрүн жакшыраак түшүнө алышат.