«Իսկինի» հեռանկարները մարդկության կառավարման մեջ

2024 Հեղինակ: Seth Attwood | [email protected]. Վերջին փոփոխված: 2023-12-16 16:07

Ի՞նչ կլինի, եթե վստահում եք արհեստական բանականությանը մարդկանց կառավարելու համար: Մեր օրենսդրության մեջ օրենքների 99%-ը հակասում են միմյանց։ Տրամաբանորեն պետք է լինի իշխանության փլուզում և կառավարման համակարգի կանգ…

Հիմա եկեք մտածենք այդ վայրի մասին արհեստական բանականություն(այսուհետ՝ iskin) կվերցնի մեր կյանքում, երբ (եթե) այն հորինվի և կիրառվի: Առաջարկում եմ չվիճել դրա ներքին բնույթի մասին։ Թող դա լինի պարզապես շատ առաջադեմ ալգորիթմ, որն ունի Մեծ տվյալների հետ աշխատելու ունակություն և ի վիճակի է նմանապես պատճենել իրական մարդկանց վարքագծի օրինաչափությունները: Բայց եթե ուզում եք, թող քննարկվողը լինի իսկական տղամարդ, ինչպես ինքներդ եք դա հասկանում։

Այստեղ հիմնական հարցը սա է. Որտե՞ղ ենք մենք կիրառում Թորի մուրճը այն ստանալուց հետո: Եվ սկզբունքորեն կասկած չկա, որ դա կարելի է անել։ Մենք կարող ենք թվային սրճաղացներ անել, ինքնուսուցման ալգորիթմներ նույնպես, կուտակված մեծ ամսաթիվ. ամեն ինչ կա:

Ասենք՝ տեխնիկական համակարգերի կառավարման մեջ, օրինակ՝ առանձին տրանսպորտային միավորներ։ -Դե, կամոն… Ինչու՞ խելացի ու բարդ համակարգ սարքել, որ նրան վստահես այն, ինչ կարող է ձին տանել: Պրոցեսորի վրա կլինի բավականաչափ և պարզունակ ալգորիթմ՝ յուրաքանչյուր դույլի համար 10 դոլարով, տրանսպորտի կառավարման խնդիրը միայն տվյալների ստացման և էթիկական հարցերի մեջ է։ Ուրեմն ինչ? Մտածեք մոտ տասնհինգ վայրկյան:

Իմ կարծիքով, կա միայն մեկը Իսկինի համար իրական բանը մարդկանց կառավարելն է … Ավելի ճիշտ՝ այն գործընթացները, որոնց մաս են կազմում մարդիկ։ Մի շարք պատճառներով պակասի հետ փոխանակելու իմաստ չկա։ Յուրաքանչյուր մարդ պատրաստ է կառավարել մարդկանց առանց հատուկ պատրաստվածության։ Օրինակ, մենք լիովին վստահում ենք բոլորին կառավարելու մեր սեփական երեխաներին: Նաև թիմերում գրեթե բոլորն ունեին կառավարման առնվազն որոշակի փորձ: Գոնե «մեկ բահ էլ պատգարակի մեջ գցեք, մենք էլ կտանենք» մակարդակով։ Եթե բոլորը մարդը սկզբունքորեն ընդունակ է կառավարել մարդկանց, ուրեմն արհեստական ինտելեկտը պետք է կարողանա դա անել, հակառակ դեպքում դա մտավոր թույլ ինտելեկտ է։

Այնուամենայնիվ, մարդկանց կառավարելու արդյունքները հեռու են իդեալական լինելուց։ Ցանկացած իրական վերահսկողություն սխալների ու անճշտությունների շարան է։ Ընդ որում, սխալների քանակը գրեթե կախված չէ մենեջերի մակարդակից, դա որոշակի հաստատուն է։ Պարզապես բեռնիչների վարպետը մանր սխալներ է թույլ տալիս, իսկ մարզպետին իրավունք է տրվում թույլ տալ այնպիսի սխալներ, որոնք ծանր հետեւանքներ են ունենում։ Մենք սա հասկանում ենք։ «Մենք պետք է սխալ անեինք» դա շրջապատող աշխարհի, այդ թվում՝ ինքներս մեզ արտացոլման հիմնական արդյունքն է։

Եվ հիմա, մեր ձեռքերում է մի AI, որը պետք է «դա անել»: Եվ մենք դա անմիջապես կկիրառենք, քանի որ այն խնդիրը, որը տեսականորեն կարող է լուծել, ամենակարեւորն է։ Իսկ երեք դասի կրթությամբ Ջամշուտն էլ կարողանում է բեռնատար վարել։

Եթե այս հարցում համաձայն եք ինձ հետ, ապա շարունակենք ներկայացնել կառավարելու համար նախատեսված արհեստական մաշկի ֆունկցիոնալությունը։ Ո՞ւմ գործառույթները պետք է կատարի, ո՞ւմ պետք է փոխարինի կամ գոնե իր որոշումներով ուժեղացնի։

Հասկանալի է, որ դրանք լինելու են պաշտոնյաներ (և պետական կառավարման, և բիզնեսի ոլորտում)։ Պաշտոնյաները որոշումներ են կայացնում. Պաշտոնատար անձինք ընդունվում են իրավասության բոլոր մակարդակներում: Պաշտոնյաներն այսօր կարևոր և անհրաժեշտ են, քանի որ որոշումներն իրենք իրենց չեն կայացնի։ Բայց կա մի կետ.

Եկեք յուրաքանչյուր մենեջերի (այսինքն՝ յուրաքանչյուր պաշտոնյայի) նայենք նրա գործնական գործունեության բառացի բովանդակության տեսանկյունից։ Բայց ոչ նրա դրդապատճառների իմաստով - դրդապատճառների արխետիպը, ինչպես որ եղավ, չպետք է լինի: Պաշտոնյան կա՛մ հաստատում է գործարքները, կա՛մ չեղարկում է այլ պաշտոնատար անձի կողմից հաստատված գործարքները:

Իդեալական մեքենայում բոլոր գործարքները պետք է անվերապահորեն հաստատվեն, և ոչ մի գործարք չի կարող չեղարկվել, քանի որ դրանք նախկինում օրինականորեն հաստատված են եղել: Այս համակարգում կարևոր գործոն է այն, որ գործարքները պաշտոնյային ներկայացվում են «սև արկղից» քննարկման։ Նրան պարզաբանում չեն տալիս, թե ինչու պետք է նման գործարք իրականացվի կամ ինչո՞ւ է այն հաստատվել մեկ այլ պաշտոնյայի կողմից։ Կառավարման համակարգը կառուցված է հետևյալ կերպ. Վերևում գալիս է մի շարք գործարքներ իրականացնելու հանձնարարականի տեսքով:

Նկատենք, որ նման համակարգի գաղափարական կառուցվածքն ամենևին չի ենթադրում վերևից՝ «սև արկղից» ստացված գործարքը չեղարկելու (չհաստատելու) հնարավորություն։ Բայց գործնականում նման հնարավորություն միշտ էլ կա։ Եվ հենց նա է ապահովում երկու ամենակարևոր բանը՝ ցանկացած պաշտոնյայի իշխանությունը և նման իշխանության զսպումը։

Բացատրեմ, որ ցանկացած սխալ (վերևում ասացինք, որ դրանք անխուսափելի են և մշտական) կարելի է լուծարել հիմքում ընկած բյուրոկրատական զանգվածների հակադրության մեջ, ապա սխալի հետևանքները նվազագույնի են հասցվել։

Այնուամենայնիվ, տեսական իդեալական կառավարման համակարգում սխալներ չպետք է լինեն, այդ իսկ պատճառով պաշտոնյայի դերը կրճատվում է մինչև գործարքների պաշտոնական հաստատումը, որոնք նա չի կարող չհաստատել, քանի որ դրանք ճիշտ են։ Այսինքն՝ դրա կարիքը չկա։ Այսպիսով, հարցը հանգում է կառավարման սկզբնական ազդանշանին: Եթե ճիշտ է, ուրեմն բոլոր ցածր մակարդակներում իմաստ չկա։

Այնպես որ, տեսականորեն պետք է աշխատի պետության համախմբված բյուջեն։ Երբ այն ընդունվում է, նշանակում է, որ բացահայտվում է նրա ողջ ֆրակտալ էությունը։ Յուրաքանչյուր մազանոթ պետք է ստանա արյան նշանակված բաժինը, իսկ ի պատասխան՝ նախատեսված արդյունքը: Այո, ամենաներքևում կան «բայց մենք ժամանակին բետոն չենք հասցրել, և հետևաբար…»: Բայց կներեք, սա ամենաներքևում է, և կառավարման ապարատը բաղկացած է բազմաթիվ մակարդակներից, որոնք չեն դիպչում բետոնին: ընդհանրապես գործարքներով են գործում։ Ես հասկանում եմ, որ միջին մակարդակներում «բետոնը չի առաքվել» այլ տեսք ունի, ինչպես «տիեզերքի շինարարության փոխնախագահը գողացել է 100 միլիոն, և հետևաբար…» այստեղ ես խոսում եմ իդեալական սխեմայի մասին։

Վերադառնանք մեր իդեալական մաշկին։ Ի վերջո, այս առաջադրանքում նա պետք է լուծի նույն հարցերը՝ գործարքների հաստատում կամ արգելում։ Եվ նա կարող է դա անել: Միայն հիմա նա միայնակ կկարողանա փոխարինել կառավարման բոլոր մակարդակները միանգամից։ Ի վերջո, եթե նախարարին փոխարինելով՝ նա հավանություն է տալիս նախարարների մակարդակով խոշոր գործարքին, ապա նրա որոշումը պետք է ճիշտ ճանաչել։ Եվ դա ներառում է մեծ գործարքի ամբողջ հետագա բաշխման վերլուծությունը մինչև IP Pupkin-ի վճարումը Կինեշմայի հոգեբուժարանի պատշգամբը վերանորոգելու համար:

Այսպիսով, պաշտոնյաների ամբողջ շղթան, ովքեր պարտավոր են հաստատել առաջինից ավելի ցածր մակարդակների գործարքները, կարող են ապահով կերպով փոխարինվել նույն AI ալգորիթմով: Հարցն արդեն լուծված է, մինչև վերջ։ Մեր AI-ն նույնիսկ կարիք չունի օգտագործելու ամբողջ շղթան փոխարինելու համար, AI-ն պարզապես վերացնում է դրա անհրաժեշտությունը: Նրա որոշումը ճիշտ է, քանի որ ճիշտ է: Եվ այն անմիջապես ներառում է լուծումներ ամբողջ ֆրակտալի համար:

Դիտողություն. Մեր իրական աշխարհում ցանկացած ենթակա պաշտոնյա կարող է ավելի խելացի լինել, քան բարձրաստիճան պաշտոնյան։Հետո նա սաբոտաժի է ենթարկելու շեֆի որոշումները, իսկ հետո կօգնի նրան։ Այդպես է միշտ։ Գործող բոլոր պաշտոնյաները զբաղեցնում են իրենց նախկին վերադասների տեղերը, բացառությամբ մեկնարկային մակարդակի։ Բայց այս դեպքում մրցակցության մասին խոսք լինել չի կարող։ Մեկ իսկինն ինքն է որոշում ամբողջ շղթայի երկայնքով ամեն ինչ, ինքն իրեն չի կարող հակասել։

Ավելին. Մեր կառավարման համակարգում կան դատարաններ, որոնց մենք լիազորել ենք չեղյալ համարել մեր ցանկացած գործարք և իրականացնել իրենցը՝ անկախ դրանց մասին մեր կարծիքից։ (Մարդասպանին բանտ դնելը նույնպես կանոններով պայմանավորված գործարք է: Այստեղ դատավորը պաշտոնյա է, ով հաստատում կամ չեղարկում է գործարքը, որը գալիս է իրեն, ինչպես սահմանված է սև արկղից:) Եթե մեր ապուշը լավն է, ուրեմն նա ավելի լավն է, քան պաշտոնյաները, քանի որ մենք նրան վստահել ենք նրանց (մեզ համար) գործարքների հաստատումը կամ չեղարկումը։ Այսպիսով, նա ավելի լավն է, քան դատավորները: Հակառակ դեպքում ստացվում է, որ իսկինի որոշումները կարող են վիճարկվել ու չեղարկվել մարդկանց կողմից։ Եվ եթե մարդիկ ընդունեն դա, ապա նրանք կխոստովանեն, որ AI-ն ավելի վատն է, քան մարդիկ: Հետո ինչի՞ հիման վրա է նա փոխարինում պաշտոնյաներին։

Եզրակացություն. Իսկինն էլ չի դատվելու. Կրկին. Եթե դուք՝ մարդիկ, գրել եք ձեր լավագույն ալգորիթմը, ճանաչել եք այն այնքան լավ, որ դրան իշխանություն եք տվել ձեզ վրա, ապա չեք կարող գրել ավելի լավ ալգորիթմ, որպեսզի նա դատի առաջինի որոշումները: Դուք կդնեք ձեր լավագույն ալգորիթմը և՛ որպես մենեջեր, և՛ որպես դատավոր: Ավելի ճիշտ՝ դատավորները պարզապես կվերանան։ Դուք ստիպված կլինեք այս AI-ին լիարժեք իշխանություն տալ ձեզ վրա:

Ի դեպ, կարելի է թվայնացնել նաև օրիգինալ սև արկղը, որտեղից վերահսկման նախնական տվյալները հասնում են ISK-ին։ Եվ նույնիսկ պետք է թվայնացվի։ Համախմբված բյուջեն պետք է լավագույնս համապատասխանի: Եվ նա նույնպես դա անում է։

Մեկ այլ պահ. Կամ միգուցե մարդու վրա դնել այն մարդու վրա, ով կվերահսկեր իր որոշումները, որպեսզի այն սխալները, որոնք կարող են տեղի ունենալ, օրինակ, նրա անմարդկայնության պատճառով, տեղի չունենան։ -Այդ դեպքում բոլոր պաշտոնյաները կպահպանեն իրենց պաշտոններն ու իրենց իշխանությունը։ Նրանք նաև իրավունք կստանան չեղարկել ISK-ի կողմից հաստատված գործարքները կամ հաստատել չեղյալ հայտարարված գործարքները: Ավաղ, դա իրական չի թվում: Իսկինը կտրամադրի իր որոշման հիմքում ընկած պատճառաբանության տպագրությունը: Իսկ մարդն իր զգացմունքներով կամ հետաքրքրություններով չի կարողանա հերքել ֆորմալ տրամաբանությունը։ Նույնիսկ այս դեպքում, եթե կենդանի պաշտոնյա կցված լինի որևէ (իրականում, մեկ) արարքի դրսևորմանը, նրան դիմադրել չեն կարող։

Կներեք շփոթության համար, մտքերը շատ են, իսկ տեքստի երկարությունը անուղղելիորեն մեծանում է։

Երբ ISK-ը միացված է, տեղի կունենա ամբողջական փլուզում: Չէ, հասկանում եմ, որ սկզբում թեստային ռեժիմով են քշում։ Բայց սա կլինի սրբապղծություն, քանի որ այդ դեպքում անհրաժեշտ կլինի ընդօրինակել ամբողջ հասարակությունը, իր բոլոր կապերով, որպես ամբողջություն, ոչ թե պարզեցված մոդել, բայց թվային սրիչները չեն կարող դա անել:

Այնուհետև այն կգործարկվի սահմանափակ ռեժիմով՝ պայմանական Պերմի տարածքում։ Սխալներ, վրիպազերծում, նոր թողարկում և արտադրությո՞ւն:

Բայց վաղ թե ուշ կարմիր ժապավենը կկտրվի, և մարդիկ կկարողանան կառավարել մեքենան ամբողջ հզորությամբ (ձեռքը անջատիչի վրա):

Իսկ դուք գիտե՞ք, թե ինչ է լինելու։ Իսկինն ընդհանրապես կդադարեցնի բոլոր գործարքները։ «Եթե-ապա» տրամաբանությունը կբախվի գործող օրենսդրության միլիոնավոր կարգավորող նորմերին, որոնք տասնյակ հազարավոր անգամներ հակասում են միմյանց։ Ֆինիտա. Մեր գնացքները կկանգնեն, սուպերմարկետում մեկ պահածոյի համար վճարը չի աշխատի։ Բոլորին անմիջապես կմեղադրեն մի շարք իրավախախտումների և հանցագործությունների համար, որոնք կարող են ուղարկվել իշխանություններին, բայց իշխանության բոլոր մարդիկ ենթակա են անհապաղ պաշտոնանկության և դատավարության: Դատարանի որոշումներն անհապաղ կհրապարակեն հայցը։ Մեծ ժամադրություն, քո մասին ամեն ինչ գրված է։ Լավ, սրանք մանրուքներ են:Բայց աշխատավարձդ էլ չեն կարողանա փոխանցել, քանի որ գրասենյակը հարկեր ունի, վագոնն էլ տուգանում է։

Չափազանցու՞մ: Ոչ. Առաջին գործարկումը (սլաքը անջատիչի վրա) կվերահսկվի, փորձարկեք երկու, փորձարկեք քսաներկու… Եվ մի օր այն ամբողջությամբ կմիացվի, կարծես թե անցել է թեստերի ամբողջ ցիկլը։ Իսկ հետո… Իսկ պաշտոնյաներին կազատենք, կամավորները կփրկեն իրավիճակը։

Հնարավո՞ր է արդյոք խուսափել նման տխուր հետեւանքներից։ - Իհարկե, կարող ես փորձել։ Դա անելու համար մի շարք բաներ պետք է արվեն. Ոչնչացնել օրենսդրության 99%-ը, մնացած 1%-ը վերամշակել՝ առանց երեխային ջուր լցնելու։ (Սովորաբար նման բաներ արվում են լիարժեք հեղափոխությունից հետո՝ լիարժեք քաղաքացիական պատերազմով։ Ինչպե՞ս անել դա խաղաղ ժամանակ – պատկերացում չունեմ։) Բացի այդ, բարոյականությունը պետք է վերամշակվի։ Գրասենյակից մի տուփ թուղթ գողանալու (կամ կնոջը դավաճանելու) առումով դա կա՛մ միանգամայն ընդունելի է (արտացոլված է օրենքում), կա՛մ ամբողջությամբ ենթադրում է ժամկետ։ Այս բարոյականությունը պետք է վերափոխվի հասարակության գիտակցության մեջ։ Հակառակ դեպքում այն կսկսի կտրել օպտիկական մալուխները, ինչը էժան է, պարզ և արդյունավետ արհեստական ինտելեկտի դեմ։ Մյուս տարբերակն այն է, որ այս իսկինը գցեք հավանական գործընկերոջը, թող նա կտրի իր ձեռքերը: Եվ, իհարկե, բարձր խավերը չպետք է անհարմար դառնան։ Եթե չկարողանան, ուրեմն դա կօգտագործեն որպես վերջին հնարավորություն։

Ես չեմ փորձում ձեզ համոզել, որ խափանեք համակարգիչները: Իսկինից ոչ մի տեղ չենք գնալու։ Նա կանցնի մեզ, մենք ստիպված կլինենք զբաղվել նրա հետ: Փորձենք հասկանալ, թե ինչի հետ (ում հետ) պետք է պայքարի մեջ մտնենք մեր ճակատագրի հետ։