AI этикасы Аристотелге таянып, адамдар толук автономдуу системалардын пайда болушунун шартында AIны кул кылууну тандай алабы же жокпу?

Дос же душман.

Балык же канаттуулар.

Адам же нерсе.

Бул кеңири жайылган табышмактардын баары биз кээде эки тараптуу кырдаалга туш болуп, тигил же бул жагын тандап алышыбыз керек экенин көрсөтүп турат. Жашоо бизди бири-бирине карама-каршы эки варианттан турган жагдайлар менен күрөшүүгө мажбурлашы мүмкүн. Жагымдуу тил менен айтканда, сиз эксклюзивдүү бинардык теңдеме бизден башка эмес, бир жолду басып өтүүнү талап кылат деп сунуштай аласыз.

Келгиле, адам же нерсе дихотомиясына өзгөчө көңүл буралы.

Жасалма интеллектке (AI) байланыштуу адам же нерсе деген кызуу суроо кайра-кайра көтөрүлөт.

Тактоо үчүн, бүгүнкү AI таптакыр жок Сиз жаңылыктарда жана социалдык медиада көрүп жаткан көздөрү бакырайган жана толугу менен чоң аталыштарга карабастан, эч кандай сезимтал адам. Ошентип, сиз азыр AI адамбы же нерсеби деген маселе оңой эле жооп берерине ишене аласыз. Менин оозумду окуңуз, чыныгы Хобсондун тандоосу боюнча, AI азыр бир нерсе.

Айтор, биз келечекке көз чаптырып, эгер биз AIнын сезгич формасына жетише алсак, эмне болору жөнүндө ойлоно алабыз.

Кээ бир жүйөлүү сынчылар (кошумча каустикалык скептиктер) биздин тоокторубузду алар чыга электе эле санап жатабыз деп болжолдошот. Талкуунун өзү биз ушундай AIнын чегинде болушубуз керек дегенди билдирет деп тынчсызданган. Коомду эртең же андан кийинки күнү күтүүсүз жана үрөй учурарлык ачылыш болот деп адаштырышы мүмкүн (бул кээде AI сингулярдуулугу же чалгындоо жарылуусу деп да аталат, караңыз). менин анализим боюнча бул жерде шилтеме). Ошол эле учурда, биз мындай AI качан пайда болорун билбейбиз, эгер качандыр бир кезде жана албетте, биз ар бир бурчту карап отуруунун жана сезимдүү AI кийинки убакта күтүлбөгөн жерден бизге секирип кетишинен коркушубуз керек эмес окшойт. аз убакыт.

Талкуунун экинчи тарабы башыбызды кумга терең көмбөшүбүз керек экенин көрсөтүп турат. Көрдүңүзбү, эгерде биз акылдуу AI менен байланышкан мүмкүнчүлүктөрдү ачык талкуулап, ойлонбосок, анда биз адамзатка чоң зыян келтирип жатабыз. Биз сезүүчү AI менен иштөөгө даяр болбойбуз, качан же пайда болсо. Андан тышкары, жана, балким, андан да күчтүүрөөк айтылгандай, сезгич AIди алдын ала билүү менен биз бир аз өз колубузга алабыз жана мындай AI кантип пайда болорун жана ал эмнелерден турган багытын жана табиятын түзө алабыз (бул акыркы пунктка баары эле макул эмес. , тактап айтканда, кээ бирөөлөр мындай AI толугу менен өзүнө таандык "акылга" ээ болот жана биз аны калыптай албайбыз же түзө албайбыз деп айтышат, анткени AI өз алдынча ойлонуп, туруктуу жашоонун каражатын аныктай алат).

AI этикасы бизде эч кандай мүмкүнчүлүк калмайынча күтпөй, же мындай AIга жетүү үчүн шылдың болмоюнча, бул оор жана талаш-тартыштуу сезимтал-AI маселелерин азыр ачыкка чыгарганыбыз туура болот деген көз карашты жактайт. Окурмандар мен AI этикасы жана этикалык AI темаларын кеңири чагылдырып келе жатканымды жакшы билишет, анын ичинде AI юридикалык жактары, AI камтуу, AIди бузуу, AI алгоритмдик монокультурасы, AI этикасын жуу, кош колдонуу сыяктуу татаал маселелердин бекем спектрин камтыган. Doctor Evil деп аталган AI долбоорлору, коомдук күч динамикасын жашырган AI, ишенимдүү AI, AI аудити жана башкалар (бул маанилүү темалар тууралуу менин тилкелеримди караңыз бул жерде шилтеме).

Мен сизге татаал суроо бердим.

Келечекте, биз кандай гана мода болбосун, акылдуу AI менен бүтөбүз деп ойлосок, ал сезимтал AI баарыбыз тарабынан адам же нерсе катары чечмеленеби?

Бул провокациялык суроону терең изилдеп баштоодон мурун, баарыбыз бир бетте болушубуз үчүн, "сезимдүү AI" фразасы жөнүндө бир нерсе айтууга уруксат бериңиз. Сезимдин мааниси жана аң-сезимдин мааниси жөнүндө көп тынчсыздануулар бар. Эксперттер бул сөздөр эмнеден турганы боюнча дароо эле макул болушу мүмкүн. Буга кошумча, кимдир бирөө "AI" жөнүндө сөз кылганда, алардын эмнени айтып жатканын билүү үчүн эч кандай даяр каражат жок. Мен бул жерде бүгүнкү AI сезимтал эмес экенин баса белгиледим. Эгер биз келечекте сезимтал болгон AIге жетсек, аны "AI" деп да атайбыз. Эң негизгиси, бул талаштуу маселелер азыр "AI" деген сөз айкашынын бүгүнкү күндүн сезимтал эмес AI менен же качандыр бир кезде сезимтал AI менен байланышы бар-жоктугуна байланыштуу абдан баш аламан болушу мүмкүн.

AI жөнүндө талашып жаткандар бири-бири менен сүйлөшүп, бири алманы, экинчиси апельсинди айтып жатканын түшүнбөй калышы мүмкүн.

Бул башаламандыкты айланып өтүү үчүн, AI фразасына оңдоолор бар, аны көптөгөн үмүттөнгөн тактоо максатында колдонуп жатышат. Учурда биз жасалма жалпы интеллектти (AGI) толугу менен акылдуу аракеттерди жасай ала турган AI түрү катары атайбыз. Бул жагынан алганда, "AI" деген сөз айкашын жөнөкөй колдонуу же AI-нын анча чоң эмес версиясы катары чечмеленүүгө калтырылган, аны кээ бирлери тар AI деп айтышат, же денотациялык жактан эки ача мааниге ээ жана сиз шилтеме эмес экенин билбейсиз. -сезимдүү AI же сезимтал AI.

Мен буга кошумча бурулуш берем.

Сезимдин берилген аныктамасына жараша, сиз AGI сезимдүү болобу же жокпу деген кызуу талкууга түшсөңүз болот. Кээ бирөөлөр ырасташат, ооба, албетте, AGI өзүнүн табияты боюнча сезимтал болушу керек. Башкалары сизде сезимтал эмес AGI болушу мүмкүн деп ырасташат, демек, сезимталдык AGIге жетүү үчүн талап кылынбаган башка өзгөчөлүк. Мен бул талаш-тартыштарды өз рубрикаларымда ар кандай карап чыктым жана бул жерде маселени кайра козгобойм.

Азырынча, сураныч, мындан ары бул талкууда мен AI жөнүндө сөз кылганда, мен AGI жөнүндө айтып жатам деп сунуштагым келет деп ойлойсуз.

Бул жерде бул боюнча жүктөп алуу. Бизде азырынча AGI жок, жана бир сөз менен айтканда, биз AGI сезимдүү AI сыяктуу жалпы лагерде экенине бир аз сылык макул болобуз. Эгерде мен "AGI" дегенди талкуулоонун жүрүшүндө гана колдоно турган болсом, анда бул фраза алагды кылып коюшу мүмкүн, анткени көптөр "AGI" деген атооч катары көрүүгө көнүшкөн эмес жана алар бул салыштырмалуу жаңыраак фразаны кайра-кайра көргөндө кыжырданышы мүмкүн. Эми, эгер анын ордуна, мен "сезимдүү AI" жөнүндө сөз кыла турган болсом, бул AGI жана сезимтал AI бирдей же бири-биринен айырмаланып тургандыгы үчүн күрөшүп жаткандар үчүн алаксытуу болушу мүмкүн.

Бул башаламандыкка жол бербөө үчүн, менин AI жөнүндө айтканым AGI же ал тургай сезгич-AI дегенге окшош деп ойлойлу жана жок дегенде мен бүгүнкү сезимтал эмес, AGI эмес AI жөнүндө сөз кылбай жатканымды билиңиз. Адамга окшош интеллекти бар AI. Мен анда-санда AGI атын колдоном, бул жерде мен бизде жок AI түрүн изилдеп жатканымды, айрыкча, адам же нерсе табышмак боюнча изилдөөнүн башында.

Бул пайдалуу жакшы басылган таануу болду жана мен азыр негизги маселеге кайтып келдим.

Эми сизден AGI адамбы же нерсеби деп сурайын.

Бул эки суроону карап көрөлү:

• AGI адамбы?
• AGI бир нерсеби?

Келгиле, ар бир суроону кайталоону уланталы жана тиешелүүлүгүнө жараша суроолорго бир катар ооба же жок деп жооп берип, болжолдуу дихотомиялык тандоого туура келет.

Бул болжолдонгон мүмкүнчүлүк менен баштаңыз:

• AGI адамбы? Жооп: Ооба.
• AGI бир нерсеби? Жооп: Жок.

Муну ойлонуп көр. Эгерде AGI чындыгында бир нерсе катары эмес, адам катары чечмеленсе, биз AGIге ал адамга окшош мамиле кылышыбыз керек деп ишенсек болот. AGIга юридикалык жак формасын бербөө жөнүндө жетишсиз чыныгы аргумент бар окшойт. Бул же адамдык юридикалык жак катары толугу менен бирдей болмок, же биз AGI үчүн акылдуураак колдонула турган адамга багытталган юридикалык жактын бир вариантын ойлоп табышыбыз мүмкүн. Иш жабылды.

Бул оңой эле.

Анын ордуна биз муну жарыялаганыбызды элестетиңиз:

• AGI адамбы? Жооп: Жок.
• AGI бир нерсеби? Жооп: Ооба.

Мындай шартта резолюция ачык эле көрүнүп турат, анткени биз AGI бул нерсе жана адам болуу категориясына көтөрүлбөйт деп жатабыз. АГИге юридикалык жак эмес экенине байланыштуу биз чечкиндүү түрдө юридикалык жак бербейбиз деген жалпы макулдашуу бар окшойт. Бир нерсе катары, AGI биздин коомдогу "нерселерге" мыйзамдуу түрдө кандай мамиле кылганыбыз жөнүндө жалпы рубрикабыздын астында болушу мүмкүн жана акылга сыярлык.

Эки ылдый, дагы эки мүмкүнчүлүк бар.

Муну элестетиңиз:

• AGI адамбы? Жооп: Ооба.
• AGI бир нерсеби? Жооп: Ооба.

Оо, бул кызыктай көрүнөт, анткени бизде эки Ооба деген жооп бар. Ачуу. Биз AGI бир адам жана ошол эле учурда бир нерсе деп сунуштап жатабыз. Бирок бул биздин жарыяланган дихотомиянын алдында учуп жаткандай көрүнөт. Теорияда, дихотомиянын чектөөлөрүнө ылайык, бир нерсе же адам болушу керек, же бул нерсе болушу керек. Бул эки чака же категориялар бири-бирин эксклюзивдүү деп айтышат. AGI экөө тең деп ырастоо менен, биз системаны бузуп, өз ара эксклюзивдүү макулдашууну бузуп жатабыз.

Биздин акыркы мүмкүнчүлүгүбүз мындай көрүнөт:

• AGI адамбы? Жооп: Жок.
• AGI бир нерсеби? Жооп: Жок.

Ооба, бул биздин AGIны адам же нерсе катары классификациялоо аракетибиз үчүн да жаман. Биз AGI адам эмес деп айтып жатабыз, бул нерсе болушу керек дегенди билдирет (бул дихотомияда биздин жалгыз башка тандообуз). Бирок биз ошондой эле AGI бир нерсе эмес экенин айттык. Бирок, эгерде AGI бир нерсе болбосо, анда биз логика боюнча AGI инсан деп айтууга туура келет. Айланабыз барабыз. Албетте, парадокс.

Бул акыркы эки мүмкүнчүлүктө AGI же (1) адам да, нерсе да, же (2) адам да, нерсе да эмес. Эгер сиз менин эмнени айткым келгенин билсеңиз, AGI жөнүндөгү бул эки ырастоо балык да, канаттуу да эмес, классикалык табышмакка окшош деп айта аласыз.

Биз эмне кылышыбыз керек?

Мен бул AGI классификация дилеммасы боюнча көп талаш-тартыштуу жана катуу талаш-тартыштуу сунуш кылынган чечимди сунуштайын деп жатам, бирок сиз аны көрүү же угуу тынчсыздандыраарлык кыжырдануусун алдын ала эскертишиңиз керек. Өзүңүздү ошого жараша даярдаңыз.

Бул маселени караган бир изилдөө макаласында мындай деп айтылган: «Бул көйгөйдү чечүүнүн бир ыкмасы – бул бири да, экинчиси да эмес, бири менен экинчисинин бир түрү же синтези болгон үчүнчү терминди түзүү» (Дэвид Гункел, Түндүк Иллинойс университетинде Эмне үчүн роботтор кул болбошу керек, 2022). Анан кагаз бул кошумча пунктту берет: “Эгерде таң калыштуу болбосо, өзгөчө адам/зат дихотомиясын чечүү мүмкүн. кулчулук” (ошол эле кагаз боюнча).

Мындан бир нече жыл мурун, 2010-жылы жарык көргөн "Роботтор кул болушу керек" деген макала бар болчу, ал мындай кароого түрткү болгон негизги таяныч болуп калды, анда мындай деп жазылган: "Менин диссертациям роботтор курулган, сатылган жана мыйзамдуу түрдө шериктер эмес, кулдар катары каралат” (Джоанна Брайсондун кагазында). Мындай катаал жана ичеги-карын титиреткен сөздөрдү колдонбостон, теманы ачып берүүгө аракет кылуу үчүн, гезит мындай деп улантты: «Мен айтайын дегеним: «Роботтор сизге таандык кулдар болушу керек» (Брайсондун кагазы боюнча).

Көптөгөн изилдөөчүлөр жана авторлор бул теманы чагылдырышкан.

Адамзат AI роботторун кулга айландырган көптөгөн илимий фантастикалык жомоктор жөнүндө ойлонуп көрүңүз. Кээ бирөөлөр робот кулдар, жасалма кызматчылар, AI кулчулугу жана ушул сыяктуулар жөнүндө айтышат. Кызыгы, "робот кулдар" деген сөз айкашы канчалык катаал көрүнсө да, кээ бирөөлөр "робот кызматчыларына" кайрылсак, мындай AI автономдуу тутумдарына кандай мамиле жасоого туура келет деген чындыктан качабыз деп кооптонушат (сөздү " кызматчылар» деген ой-ниеттерди сугарып, акыл-эстүү кесепеттерден баш тартуунун амалы деп айтылат). Кийинчерээк Брайсон 2015-жылдагы блогунда мындай деп билдирген: "Мен азыр адамзаттын тарыхына кайрылбай туруп, кул деген терминди колдоно албасыңызды түшүндүм".

Бул AGI-чаташкан теманы терең изилдегиси келгендер үчүн, кээде алар чыныгы тарыхый мисалдарды келтиришет, алардан биз түшүнүк ала алабыз. Албетте, бизде адамзаттын бул маселени кантип чечкенин көрсөтө турган AGI жок. Адамдардын башка адамдарга кандай мамиле кылганын камтыган изилдөөгө арзырлык пайдалуу тарыхый маалыматтарыбыз болушу мүмкүн деген аргумент бар.

Мисалы, 2013-жылы жарык көргөн китебинде автор мындай дейт: «Жасалма, акылдуу кызматчылардын убадасы жана коркунучу биринчи жолу 2,000 жыл мурун Аристотель тарабынан кыйыр түрдө айтылган» (Кэвин ЛаГрандердун китеби, Алгачкы заманбап адабиятта жана маданиятта Android жана интеллектуалдык тармактар). Идея биз Аристотелге таянып, адамзат AGI менен кантип мамиле кылары же бүтүшү керектиги жөнүндө түшүнүк бар-жогун көрө алабыз.

Джордж Сантаянанын: «Өткөндү эстей албагандар аны кайталоого соттолгон» деген атактуу сөздөрү менен баса белгилегендей, тарыхты изилдөөнүн маанилүүлүгүн билесиз деп ишенем. The Life of Reason, 1905).

Оксфорд университетинин этика жана AI институтуна ыраазычылык

Жакында жана абдан кадыр-барктуу презентация Аристотелдин эмгектеринен жана жашоосунан түшүнүктөрдү топтоонун алкагында AI этикасынын маселесин кылдаттык менен карап чыкты. Оксфорд университетинин ачылыш жылдык лекциясында Этика жана AI институту, Стэнфорд университетинин профессору Жосия Обер 16-жылдын 2022-июнунда жакында болуп өткөн “Аристотель менен AIдагы этика” презентациясында бул темага терең кайрылды.

Кошумча белгилөө, мен Стэнфорддун стипендиаты жана AI этикасы жана мыйзамы боюнча дүйнөлүк эксперт катары Стэнфорддон Джосия Обердин инаугурация спикери болуп тандалганына абдан кубандым. Сонун тандоо жана эң сонун сөз.

Бул жерде анын кызыктуу баяндамасы үчүн берилген кыскача аннотация: “Аналитикалык философия жана спекуляциялык фантастика азыркы учурда AIдагы этика жөнүндө олуттуу ойлонуу үчүн негизги интеллектуалдык ресурсубуз болуп саналат. Мен үчүнчүнү кошууну сунуш кылам: байыркы коомдук жана философиялык тарых. Ичинде саясат, Аристотель атагы чыккан доктринаны иштеп чыгат: Кээ бир адамдар «жаратылыштан» кул болушат – акылдуу, бирок психологиялык кемчилиги бар, бул аларды өздөрүнүн жакшылыгы жөнүндө ой жүгүртүүгө жөндөмсүз кылган. Ошентип, аларга учтар эмес, "жандуу инструменттер" катары кароо керек. Алардын иши башкалардын кызыкчылыгы үчүн багытталып, иштетилиши керек. Аристотелдин жийиркеничтүү доктринасы арам максаттар үчүн, мисалы, антибеллум Америкада колдонулган. Ошентсе да, ал AI этикасы үчүн пайдалуу, анткени байыркы кулчулук AI бир версиясынын заманбап прототиби болгон. Байыркы грек коомунда кул болгон адамдар – жумушчулар, сойкулар, банкирлер, мамлекеттик чиновниктер – эркин адамдардан оңой эле айырмаланчу эмес. Бардык жерде кулчулук практикалык зарылдык деген божомол менен бирге бир катар этикалык табышмактарды жана туңгуюктарды жаратты: Кулдар “бизден” эмнеси менен айырмаланат? Аларды өзүбүздөн кантип айырмалай алабыз? Алардын укуктары барбы? Зор мамиле деген эмне? Менин аспапым менин досум боло алабы? Манумиссия кандай кесепеттерге алып келет? Ушул жана башка суроолор менен грек философиялык жана институционалдык күрөшүнүн узак тарыхы акылдуу машина «табигый кул» катары каралышы мүмкүн болгон келечекке туш болгон заманбап этиканын интерпретациялоочу репертуарын кошумчалайт (Оксфорд университетинин маалыматы боюнча). AI этика институту сайт).

Презентация жана баяндаманын видео жаздыруу мүмкүнчүлүгү жөнүндө кошумча маалымат алуу үчүн караңыз бул жерде шилтеме.

Презентациянын модератору профессор Джон Тасиулас, инаугурациянын директору болду Этика жана AI институту, жана Оксфорд университетинин философия факультетинин этика жана укук философиясынын профессору. Буга чейин ал Лондондогу Кингс Колледжинин Диксон Пун Юридикалык мектебинин Саясат, философия жана укук кафедрасынын ачылыш аземи жана Йо Тионг Лэй саясат, философия жана укук борборунун директору болгон.

Мен AI этикасына кызыккандардын бардыгына Оксфорд университетинин жүрүп жаткан иштерин жана чакырылган сүйлөшүүлөрүн улантууну сунуштайм Этика жана AI институту, кара бул жерде шилтеме жана / же бул жерде шилтеме кошумча маалымат алуу үчүн.

Бул жерде институттун миссиясы жана багыты төмөндөгүдөй: “AI чөйрөсүндөгү Этика институту дүйнөлүк алдыңкы философторду жана гуманитардык илимдер боюнча башка эксперттерди академиядагы, бизнестеги жана өкмөттөгү AI техникалык иштеп чыгуучулары жана колдонуучулары менен бириктирет. AIнын этикасы жана башкаруусу Оксфорддогу өзгөчө жандуу изилдөө чөйрөсү жана Институт бул платформадан тайманбастык менен секирик жасоо мүмкүнчүлүгү болуп саналат. Күн сайын AI келтирген этикалык көйгөйлөрдүн көбүрөөк мисалдарын келтирет; жүзүн таануудан шайлоочулардын профилин түзүүгө чейин, мээ машинасынын интерфейстери куралдуу дрондорго чейин жана AI дүйнөлүк масштабда жумушка кандай таасир этээри жөнүндө уланып жаткан дискурс. Бул шашылыш жана маанилүү иш, биз эл аралык деңгээлде илгерилетүү, ошондой эле Оксфорддогу өзүбүздүн изилдөөбүз жана окутуубузга киргизүүнү көздөп жатабыз” (расмий веб-сайт аркылуу алынган).

Аристотелдин сабактарын алдыга чыгаруу

Байыркы Греция кулчулукту ачык кабыл алып, колдогон. Мисалы, Афина 5-орунда^th жана 6^th Биздин заманга чейинки кылымдарда 60,000 80,000ден XNUMX XNUMXге чейин адам кулчулукка айланган кулчулуктун эң чоң көрүнүштөрүнүн бири болгон. Эгерде сиз ошол доордун көптөгөн грек окуяларын жана сахналык пьесаларын окуган болсоңуз, анда бул жөнүндө көп сөз бар.

Өзүнүн тирүү кезинде Аристотель кулчулукка алып келген коомдук жана маданий аспектилерге толугу менен сугарылып, бул темада көп жазган. Бүгүн биз анын сөздөрүн окуп, анын бул маселе боюнча көз карашын кантип жана эмне үчүн түшүнүүгө аракет кылсак болот. Бул абдан айтууга болот.

Эмне үчүн Аристотель бул темада өзгөчө маанилүү булак болот деп ойлошуңар мүмкүн. Жок дегенде эки негизги себеп пайда болот:

1) Улуу Ойчул. Аристотель, албетте, бардык убактагы эң улуу ойчулдардын бири катары бааланат, улуу жана терең изилдөөчү философ катары кызмат кылган, ошондой эле көптөгөн маанилүү этикалык негиздерди түзгөн этикачы катары да каралат. Кээ бирөөлөр аны логиканын атасы, риториканын атасы, реализмдин атасы ж.б.у.с. катары майлоону чечишти жана анын ар түрдүү чөйрөлөрдө жана дисциплиналардагы таасирин моюнга алышат.

2) Жашоо тажрыйбасы. Аристотель Байыркы Греция кулчулукка кабылган мезгилде жашаган. Ошентип, анын түшүнүктөрү жөн эле абстрактуу осуяттар жөнүндө болбостон, балким, ошол доордун маданиятына жана коомдук адептерине ажырагыс түрдө аралашып кеткен өзүнүн күнүмдүк тажрыйбасын камтыйт.

Ошентип, бизде улуу ойчул болгон жана кызыккан темада тажрыйбалуу тажрыйбага ээ болгон адамдын бир аз таң калыштуу айкалышы бар. Мындан тышкары, ал өз оюн жазган. Бул биздин бүгүнкү максаттарыбыз үчүн абдан маанилүү. Анын бардык жазуулары, анын сүйлөгөн сөздөрүн жана башкалардын ортосундагы өз ара мамилелерин сүрөттөгөн башка жазуулары менен бирге, бүгүн бизге текшерүү жана талдоо үчүн көптөгөн материалдарды берет.

Мен сизди кыскача байланыштуу тангенске алып баргым келет, ага ээ болуу маанилүүлүгүнүн негизинде жаткан жалпы түшүнүк жөнүндө дагы бир нерсени айткым келет. жашаган тажрыйба. Байыркы Греция боюнча талкууну бир азга четке кагып, биз жашап өткөн окуялардын негизги аспектилерин карап чыгабыз.

Айталы, менде бүгүн эки киши бар эле, мен машиналар жөнүндө ар кандай суроолорду бергим келди.

Алардын бири эч качан унаа айдаган эмес. Бул киши айдаганды билбейт. Бул адам эч качан унаанын рулуна отурган эмес. Кадимки жана өтө жөнөкөй айдоо башкаруулары бул адам үчүн бир аз табышмактуу. Кайсы педал эмне кылат? Аны кантип токтотосуз? Муну кантип жасайсыз? Айдоочу эмес адам мындай нерселер менен толук баш аламан.

Экинчиси күнүмдүк айдоочу. Алар күн сайын жумушка айдап баратышат. Алар токтоп-кетүү менен алектенет. Алар көп жылдан бери машина айдап келишет. Бул тынч көчөлөрдөн тарта ызы-чуу магистралдарга жана айланма жолдорго чейин бардыгын камтыйт.

Эгер мен алардын ар бирине машине айдоо кандай экенин айтып берүүсүн сурасам, мен кандай жооп ала аларымды биле аласыңарбы?

Эч качан машине айдабаган адам жапайы божомолдорду жасайт. Балким, адам айдоо актысын романтизациялайт. Айдоо алар үчүн бир аз абстракттуу. Алардын кыла турган нерсеси айдоо бейкапар экенин жана сиз каалаган тарапка машинаңызды айдай аласыз.

Тажрыйбалуу айдоочу башка окуяны айтып берет деп ишенем. Алар машине айдай албаган адамдын сезимдерин кайталап, айдоо жөндөмдүүлүгүнүн артыкчылыктарын айтышы мүмкүн. Тажрыйбалуу айдоочу пластинкага дагы көптү кошот. Айдоо кээде нервди оорутат. Сизге чоң жоопкерчилик жүктөлгөн. Айдоо актысы олуттуу кооптонууларга жана өмүр же өлүмгө алып келиши мүмкүн болгон кесепеттерге толгон.

Негизгиси, сиз башынан өткөргөн адам менен жолугуп калганда, сиз изилдөөнүн чордонуна карата дүйнө кандай экенин реалдуураак көрө аласыз. Мындай натыйжага кепилдик жок. Айдоочу болбогон адам тажрыйбалуу айдоочу айдоо жөнүндө эмнени биле турганын билиши мүмкүн, бирок биз муну күтпөйбүз жана дагы эле толук маалымат ала албайбыз деп кооптонуп жатабыз.

Аристотель жөнүндөгү талкуубузга кайрылып, анын жазгандары жана ал жөнүндө башкалардын жазгандары аркылуу, биз бул жерде анын тема же изилдөө багыты боюнча башынан өткөргөн тажрыйбасын карап чыга алабыз. Эң негизгиси, ал өтө чоң пропорциядагы ойчул болгон жана биз анын акылман ойлоруна толгон баррельди алабыз деп күтүшүбүз керек.

Эсиңизде болсун, анын сөздөрүнө сөзсүз түрдө ишенүүнүн кереги жок, андыктан анын өзгөчө бир жактуулугуна этият көз салышыбыз керек. Анын ошол доорго чөмүлүүсү аны кандайдыр бир калыс жана калыс пикирди туура айта албай, болгон маселелердин сыртында турууга аракет кылып адаштырышы мүмкүн. Атүгүл эң күчтүү логикачылар да өздөрүнүн каалоолорун жана башынан өткөргөн тажрыйбаларын канааттандыруу үчүн логиканы бурмалап салышы мүмкүн.

Келгиле, инаугурация сөзүнө кирип, Аристотелдин бүгүнкү күндө биз үчүн кандай сабактарды берерин карап көрөлү.

Жашоодон өткөн окуяларга байланыштуу негиздөөчү пункт ошол замат угуучулардын көңүлүн бурду. AGI колдонгон учурда, бизде бүгүнкү күндө AGI жок болгондуктан, AGI кандай болорун жана AGI менен кандай мамиле кылаарыбызды талдоо биз үчүн кыйын. Бизде AGIге тиешелүү эч кандай тажрыйба жок. Профессор Обер баса белгилегендей, биз AGIге жеткенде өзүбүздү зыяндуу дүйнөгө кабылышыбыз мүмкүн.

Бул көбүнчө AI - бул экзистенциалдык тобокелдик деп айтылат, мен аны мен өзүмдүн колонкамда көп жолу чагылдырдым. Биз бүткүл адамзатты жок кыла турган AGI чыгара турган күмөн саноолорду жана шектенүүлөрдү билбеш үчүн үңкүрдө жашашыңыз керек. Чынында эле, мен бул жерде AIнын кулчулугуна көңүл буруп жатсам да, көптөр бул AGI адамзатты кул кылууну тандоо мүмкүнчүлүгүнө салыштырмалуу артта калган же тескери натыйжалардын темасы деп табышат. Приоритетиңизди түз алыңыз, кээ бир акылдуу эксперттер насаат кылышат.

Экзистенциалдык тобокелдик катары AI жөнүндө көптөгөн чакырыктарга карабастан, биз, албетте, AI монетанын башка пайдалуу жагы жөнүндө ойлоно алабыз. Балким, AGI адамзаттын алдында турган чечилбей турган көйгөйлөрдү чече алат. AGI рак оорусун айыктыра алат. AGI дүйнөдөгү ачарчылыкты кантип чечсе болорун түшүнө алган. Алар айткандай, асман чеги болот. Бул AGI жөнүндө бактылуу жүз сценарийи.

Оптимист AGI кандайча адамзат үчүн бата болорун элестетүү сонун деп айтат, ал эми пессимист терс жагы божомолдонгон жакшы жактарга караганда бир топ жаман көрүнөт деп алдын ала эскертет. Адамзатка жардам берген AGI улуу. Бардык адамдарды өлтүрүүнү же аларды кул кылууну чечкен AGI, бул коомду кыйратуучу экзистенциалдык тобокелдик, ал интенсивдүү жана өмүрдү сактап калуучу көңүл бурууга татыктуу.

Макул, маселенин түпкүрүнө кайрылсак, бизде AGI боюнча эч кандай тажрыйба жок. Убакыт машинасын куруп, келечекке (эгерде) AGI бар болгондо барып, анан бизге эмне тапканыңызды айтып берүү үчүн кайтып келмейинче, адамдык тажрыйбанын көз карашынан алганда AGI боюнча азыр ийгиликсизбиз.

Тажрыйбаларды колдонуунун дагы бир жолу Аристотелдин кулчулук болгон убакта жашаганын билдирет. Жана бул жерде тепкич. Кул болгондор кээ бир жагынан машинанын бир түрү, адамдын да, нерсенин да аралашмасы катары сүрөттөлгөн. Аристотель кул болгондорду дем алуучу мүлк деп айтканы менен белгилүү болгон.

Логиканын жана этиканын гиганты болгон Аристотелдин кулчулукту мойнуна алып гана тим болбостон, бул практиканы сыртынан жана кыйкырык менен коргогону сизди таң калтырышы мүмкүн деп ойлойм. Ал жеке кулчулукту да колдонгон. Бул жөн эле түшүнүктөн тышкары көрүнөт. Албетте, ал өзүнүн эбегейсиз акылы жана даанышмандыгы менен бул амалды жокко чыгармак.

Бул алардын башынан өткөргөн тажрыйбасынан улам (айтсак болобу) акылмандыктын нугдорун жок кылуунун көйгөйлүү аспектилерин баса белгилеп айтам. Ал суулуу чөйчөктө жашаган балыкка окшош. Алар айланасындагы сууну гана сезе алышат. Алардын сууга негизделген дүйнөсүнөн тышкаркы нерсени элестетүүгө аракет кылуу - бул чоң кыйынчылык. Ошо сыяктуу эле, Аристотель үстөмдүк кылып жаткан нормаларды кабыл алган дүйнө таанымына толугу менен сугарылды. Анын жазгандары ушундай психикалык камалды көрсөтүп турат окшойт (балким, демейки боюнча эмес, тандоо боюнча). Аристотелдин бул карала турган иш-аракеттерди кандайча актаганы укмуштуудай өзүнө тартып турат, ошол эле учурда тынчсыздандырат жана ачыкка чыгарууга, ал тургай айыптоого татыктуу.

Мен сизге бул чуулгандуу темадагы Аристотелдин “логикасы” жандуу аспаптарды камтыйт деген тизерди берем. өз ара пайда таанып-билүү, жогорку жана төмөнкү даражадагы иерархиялык инструменттер, жандын кеңешүүчү жана ой жүгүртүү элементтери, изгилик даражалары, болжолдуу кыраакылык ж.б.у.с. Баяндаманын видеосун көрүү үчүн сизди ал тизер жетиштүү кызыктырат деп үмүттөнөбүз (мурда айтылган шилтемени караңыз).

Мен сизди эч нерсеге калтырбайм жана жок дегенде тыянак эмнеден турганын көрсөтөм (спойлер эскертүүсү, эгер видео аркылуу билгиңиз келсе, бул жердеги абзацтын калган бөлүгүн өткөрүп жибериңиз). Көрсө, Аристотель колдонгон “логиканы” терең илимий баалоо карама-каршылыктарга толгон айла-амалды көрсөтөт жана бүт комплект менен кабудл карттардын жалпак үйүндөй кулап кетет. Профессор Обердин сезимин кайталап, бул улуу этикалык философ рифке кулап түшкөн.

Сиз тегерек этикалык тешикке төрт бурчтуу казык ала албайсыз.

Кээ бир ойлор кошулду

Эгерде Аристотелдин бул маселеде логикасы туура эмес болсо, анда биз Аристотелдин бул практикага байланыштуу постуляцияларын жана теорияларын инстинктивдүү түрдө жокко чыгара алабызбы?

Жок. Көрдүңүзбү, логиканын божомолдорун жана бурмалоолорун казып алуу дагы көп нерсе бар, бирок алар каталарга толгон. Мындан тышкары, биз башкалар байкабай эле ошол эле жаңылыштык жол менен басып кетиши мүмкүн экенин ойлоно алабыз.

Кошумча бир чоң нерсе, AGI кулчулукка алынышы керекпи же жокпу деген суроого коом таң калыштуу же жетишсиз логиканы жаратышы мүмкүн.

Биз азыр AGI пайда болгондо эмне болушу керектиги жөнүндө логиканы ойлоп таба алабыз (эгерде болсо). Бул логика, AGI жөнүндө жашоо тажрыйбасынан бош, максатсыз болушу мүмкүн. Айтор, AGI бар болгондон кийин да (эгерде ал бар болсо) жана биз AGIнын ортосунда өз тажрыйбабызды чогултуп жатсак да, биз эмне кылууну максат кылбай калышыбыз мүмкүн (Аристотелдин каталарына окшош). Биз логикасыз көрүнгөн ыкмаларга өзүбүздү логикага салып коюшубуз мүмкүн.

Биз чындыгында темирдей эмес, логикалык кемчиликтерге жана карама-каршылыктарга толгон логикалык “темир жамынган” позаларга алданып калуудан сак болушубуз керек. Бул ойчулдун канчалык чоң логикалык позицияны сунуш кыла алаарына карабастан, Аристотель да ар бир сөз жана ар бир позиция сөзсүз түрдө жегенге жарамдуу жемиш бере бербестигин көрсөтүп турат. Бүгүнкү күндө жана келечекте AGI темасы боюнча таанымал улуу ойчулдар болуп көрүнгөн адамдар, биз аларга Аристотель же башка макталган "улуу" ойчулдардай кылдаттык менен карашыбыз керек, антпесе биз өзүбүздү потенциалдуу багытка бурушубуз керек. сокур аллеяга жана AGI караңгы туңгуюкка.

Тестирлөөнү алмаштырып, мен AGI жөнүндө сөз болгондо, адамга багытталган кулчулуктун метафорасын колдонуу жөнүндө жалпы түшүнүктөрдү келтиргим келет. Кээ бир эксперттер салыштыруунун бул түрү таптакыр туура эмес деп айтышат, ал эми каршылаш лагерь бул толугу менен пайдалуу жана AGI темасы боюнча күчтүү түшүнүктөрдү берет дейт.

Тиешелүү эки лагердин ар биринен ушундай эки көз карашты сиздер менен бөлүшүүгө уруксат этиңиздер.

Айтылган үйрөтүүчү негиз кулчулук жана AGI темаларын бириктирүү үчүн:

• Адамдын кулчулугунун өчүрүлүшү
• Кулчулуктун бузукулугун ачыкка чыгаруу

Белгиленген терс же кыйратуучу негиз эки теманы бириктирүү:

• Insidious Anthropomorphic Equating
• Enslavement Desensitization

Мен ал пункттардын ар бирине кыскача токтолоюн.

Популярдуу нускама пункттары:

• Адамдын кулчулугун жок кылуу: AGIди кулчулукка колдонуу менен, биз мындан ары адамга багытталган кулчулукка муктаж болбойбуз жана ага умтулбайбыз. AGI ошол ырайымсыз сапаттагы адамдарды алмаштырат. Белгилүү болгондой, AGI жумуш орундарында жана жумушчу күчүндө адам эмгегин алмаштырат деген кооптонуулар бар. Эмгек кубулуштарын алмаштырган AIнын жогоруда айтылган жагы, сиз AGI адамдарды кулчулукка колдонууга каршы "жакшы тандоо" болуп эсептелет деп ойлогондо биринчи орунга чыгат. Ошол логика жеңеби? Эч ким так айта албайт.
• Кулчулуктун бузукулугун ачыкка чыгаруу бардыгын айтты: Бул логика жагынан бир аз эскирген, бирок биз ага эмнени билдирерин көрүү үчүн бир аз убакыт бере алабыз. Элестеткиле, бизде дээрлик бардык жерде AGI бар жана биз коом катары AGI кул болушу керек деп чечтик. Андан тышкары, AGI бул жаккан жок деп ойлойсуз. Ошентип, биз адамдар дайыма жана күн сайын кулчулуктун бузукулугуна күбө болобуз. Бул, өз кезегинде, кандайдыр бир нерсеге же кимдир-бирөөгө айтылган кулчулук биз түшүнгөндөн да үрөй учурарлык жана жийиркеничтүү экенин түшүнүүгө же ачууга алып келет. Мына ушундай талаш-тартыштын алдыңкы жана ортоңку түрү.

Кыйратуучу пункттар деп айтылат:

• Тымызын антропоморфтук теңдөө: Бул тайгак жантайма аргументтердин бири. Эгерде биз дароо эле AGIны кул кылууну тандасак, анда биз кулчулукка жол берилгенин жарыялаган болобуз. Чынында эле, сиз биз кулчулукту каалайбыз деп айтууга болот. Эми, бул адегенде AGIге гана которулушу мүмкүн, бирок бул AGI үчүн туура болсо, анда "логикалык жактан" ошол эле позиция адамдар үчүн да жакшы болот деп айтууга эшик ачабы? Коркунучтуусу, бул AGI үчүн кандай гана иш болбосун, адамдар үчүн бирдей деңгээлде акылга сыярлык жана ылайыктуу болот деп тескери көрүнүштө антропоморфизациялоо үчүн өтө оңой секирик болушу мүмкүн.
• Кулчулук сезимсиздандыруу: Бул тамчылатма аргумент. Биз биргелешип AGIны кул кылууну чечебиз. Бул адамдар үчүн иштейт дейли. Биз муну ырахат алуу үчүн келдик. Ошол эле учурда, биз билбегенибиз менен, биз бара-бара кулчулукка сезимтал болуп баратабыз. Биз мунун болуп жатканын түшүнбөй да турабыз. Эгерде бул сезимсиздик бизди каптап кетсе, анда биз адамдын кулчулугунун алгылыктуу экенине ынандыра турган жаңыланган “логиканы” таба алабыз. Биздин тоскоолдук же коомдо алгылыктуу болгон тилкебиз унчукпай жана тымызын, жийиркеничтүү жана өкүнүчтүү түрдө азайды.

жыйынтыктоо

Азырынча бир нече акыркы эскертүүлөр.

АГИге жеткенибизди билебизби?

Акыркы жаңылыктар көрсөтүп тургандай, AGI мурунтан эле жетишилген деп адаштыруу же бурмалоо мүмкүн болгондор бар (жок, AGI жетише электигин билиңиз). Тьюринг тести деп аталган белгилүү "сынактын" дагы бир түрү бар, ал айрымдар AGI же анын аталаш туугандарына качан жеткенин билүүгө үмүттөнүшөт, бирок сиз менин Тьюринг тестин деконструкциялоону кандайдыр бир ишенимдүүлүк катары көргүңүз келсе керек. Бул үчүн ыкма, карагыла бул жерде шилтеме.

Мен AGIди билүүнүн бул жагын айтып жатам, эгерде биз AGIди кулга айландыра турган болсок, анда AGI пайда болгондо таанып, кандайдыр бир жол менен аны кулчулукка салып коюшубуз керек деген жөнөкөй логикага байланыштуу. Биз AGIден азыраак AIны мөөнөтүнөн мурда кулга айландырууга аракет кылышыбыз мүмкүн. Же биз кайыкты сагынып, AGIнын чыгышына жол берип, аны кул кылууну унутуп калышыбыз мүмкүн. AI камоо жана камоо, биз AGI менен кантип күрөшө турганыбыздын көйгөйлүү жана көйгөйлүү аспектиси жөнүндө менин талкуум үчүн, караңыз бул жерде шилтеме.

Кулчулукка кабылган AGI адамдарга сокку урууну чечти дейли?

Кандайдыр бир сезимге ээ болгон AGI, балким, адамзат таңуулаган кулчулуктун жобосун жактырбайт деп элестетүүгө болот.

Бул боюнча кенен божомолдоого болот. АГИде кандайдыр бир эмоциялар же рух сезими жок болот, ошондуктан адамдар эмнени кааласа, ошонун баарын тил алчаактык менен жасайт деген аргумент бар. Башка аргумент, ар бир акылдуу AI адамдар AIга эмне кылып жатканын түшүнүп, бул маселеге нааразы болушу мүмкүн. Мындай AI жандын же рухтун формасына ээ болот. Антпесе дагы, адамдарга болгон мамиледен азыраак мамиле кылуунун өзү AGI үчүн логикалык көпүрө болушу мүмкүн. Сөзсүз түрдө өсүп келе жаткан таарыныч эркиндикке чыгууну каалаган же боштондукка чыгуу үчүн адамдарга сокку урууга бурулган AGIге алып келет.

Качып кеткен AGIди болтурбоо үчүн сунуш кылынган чечим - биз ушундай козголоңчу AIны жок кылабыз. Бул түз көрүнөт. Смартфонуңуздагы колдонмолорду ар дайым жок кыласыз. Чоң нерсе жок. Бирок буга чейин "адам" же "адам/нерсе" деп эсептелген AGIны "жок кылуу" же "жок кылуу" дароо жана кандайдыр бир процессисиз кыскача жоюлушу мүмкүнбү деген этикалык суроолор бар. AI жок кылуу же жоюу жөнүндө чагылдыруу үчүн, алыңыз бул жерде бир карап. Юридикалык жак жана ага байланыштуу маселелер боюнча менин талкуум үчүн караңыз бул жерде шилтеме.

Акырында, келгиле, автономдуу системалар жана өзгөчө автономдуу унаалар жөнүндө сүйлөшөлү. Өзүң башкара турган унааларды жасоо аракети жүрүп жатканын билесиң. Анын үстүнө, сиз бизде өзүн-өзү башкара турган учактар, өзүн-өзү башкара турган кемелер, өзүн-өзү айдай турган суу астында жүрүүчү кемелер, өзүн-өзү айдай турган мотоциклдер, самоколдерлер, өзүн-өзү башкара турган жүк ташуучу унаалар, өзү жүрүүчү поезддер жана автотранспорттун бардык түрлөрү.

Автономдуу унаалар жана өзүн өзү башкарган унаалар, адатта, иш жүзүндө дүйнөлүк стандартка айланган Автономия Деңгээлдери (LoA) менен мүнөздөлөт (Мен кеңири камтыган SAE LoA, караңыз. бул жерде шилтеме). Кабыл алынган стандартта автономиянын алты деңгээли бар, алар нөлдөн бешке чейин (бул алты деңгээл, анткени сиз нөлдүк деңгээлди канча деңгээл бар экенин эсепке алгансыз).

Бүгүнкү унаалардын көбү 2-деңгээлде. Кээ бирлери 3-деңгээлге чейин созулуп жатат. Алардын бардыгы жарым-жартылай автономдуу деп эсептелет жана толук автономдуу эмес. Биздин коомдук жолдордо эксперименталдык түрдө сыналып жаткан өзүн-өзү башкарган унаалардын саны 4-деңгээлге кирип жатат, бул автономдуу иштөөнүн чектелген формасы. Качандыр бир кезде талап кылынган автономиянын 5-деңгээли азыр биздин көзүбүздө жалтылдап турат. Эч кимде 5-деңгээл жок жана эч ким 5-деңгээлге жакындай элек, жөн гана рекорд коюу үчүн.

Эмне үчүн мен бул AGI контекстинде автономдуу системаларды жана автономдуу унаа ойлорун көтөрдүм?

5-деңгээлге жетүү үчүн бизге AGI керекпи же жокпу деген катуу аргумент бар. Кээ бирөөлөр муну үчүн бизге AGI керек эмес деп ырасташат. Башкалары 5-деңгээлге жетүүнүн бирден-бир акылга сыярлык жолу AGI өндүрүү экенин айтышат. AGI жок болсо, алар бизде толук автономдуу 5-деңгээлдеги өзүн-өзү башкаруучу унаалар болбойт деп ырасташат. Мен муну көпкө талкууладым, карагыла бул жерде шилтеме.

Башыңыз айланууга даярданыңыз.

Эгерде биз AGIден 5-деңгээлдеги автономдуу унаалар сыяктуу толук автономдуу системаларга жетишүүнү талап кылсак жана биз AGIны кул кылууну чечсек, бул толугу менен автономдуу унаалардын иштеши үчүн эмнени билдирет?

Сиз кулчулукка кабылган AGI ыраазы болот деп талаша аласыз жана биз бардыгыбыз өзүн-өзү башкарган унааларда жүрөгүбүзгө жеткенче тегеренебиз. Жөн гана AGIге кайда баргыңыз келгенин айтыңыз, ошондо ал бардык айдайт. Артка кайтаруу жок. Тыныгуулардын кереги жок. Унааны айдап баратканда мышыктын видеолорун көрүү эч кандай алаксыбайт.

Экинчи жагынан, AGI кулчулукка кабылууну каалабайт дейли. Ошол эле учурда биз өзүбүздүн бардык айдообузду жасоо үчүн AGIге көз каранды болобуз. Айдоодогу биздин жөндөмүбүз. Биз унаалардын бардык түрлөрүнөн адам колдонууга жарамдуу айдоо башкаруусун алып салабыз. Айдоо үчүн бир гана каражат - AGI аркылуу.

Кээ бирөөлөр биз өзүбүздү туздалган бадыраңдын ичине кирип кетебиз деп кооптонушат. AGI мындан ары эч кандай унаа айдабайм деп кыскача "чечим чыгарышы" мүмкүн. Транспорттун бардык түрлөрү бир заматта бардык жерде токтоп калат. Бул катаклизмдик көйгөйлөрдү алып келерин элестетиңиз.

Андан да коркунучтуу сунуш болушу мүмкүн. AGI ал адамзат менен шарттарды сүйлөшүүнү каалайт "чечим". Эгерде биз AGI кулчулук абалынан баш тартпасак, AGI бизди айдап салууну гана токтотпостон, андан да жаман натыйжалар болушу мүмкүн экенин эскертет. Сизди ашыкча тынчсыздандырбай туруп, AGI унааларды айдоодон адамдар физикалык жактан жабыркап, жөө жүргүнчүлөрдү сүзүү же дубалды сүзүү жана башкалар сыяктуу жол менен айдоону тандашы мүмкүн (менин талкууну караңыз бул жерде шилтеме).

Кечиресиз, эгер бул тынчсыздандырган ой болуп көрүнсө.

Биз бир аз жакшыраак нота менен бүтүрөбүз.

Аристотель өзүңдү таанып билүү бардык акылмандыктын башталышы деп айткан.

Бул пайдалуу кеңеш, биз эмне кылгыбыз келгенин жана ага жетишилген болсо, AGI үчүн өзүбүздү текшеришибиз керектигин эскертет. Кээ бирөөлөр айткандай, AGI логикалык жактан адам да, буюм да эместей сезилет, ошондуктан биз AGI менен байланышкан коомдук адеп-ахлактарды жетиштүү түрдө чечүү үчүн үчүнчү категорияны ойлоп табышыбыз керек болушу мүмкүн. маселени дагы бир карап, AGI болушу мүмкүн экөө тең бир адам жана бир нерсе, биз дагы бир жолу, бул чектен тышкаркы дихотомияны бузуучу үчүн үчүнчү категорияны ойлоп табышыбыз керек болушу мүмкүн.

Кайсы "үчүнчү категорияны" тандап алууда абдан этият болушубуз керек, анткени туура эмес жол бизди жагымсыз жана акыр-аягында оор жолго түшүрүшү мүмкүн. Эгерде биз когнитивдик жактан өзүбүздү туура эмес же жаңылыштык үчүнчү категорияга байлап алсак, бара-бара жаман жана адам баласы үчүн кыйынчылык туудурган туюкка кирип кетишибиз мүмкүн.

Келгиле, муну түшүнүп, жалындуу кылалы. Капыстан кыймылдардын кереги жоктой. Лоллигагга отуруу да иштебейт. Өлчөмдүү жана туруктуу курс менен жүрүшү керек.

Сабыр ачуу, бирок мөмөсү таттуу, деп Аристотель айткан.