ISO 42001 түшүндүрмөсү — Жасалма интеллектти башкаруунун жаңы стандарты

ЖИ башкаруу стандарттарынын өсүшү

Жасалма интеллект изилдөө лабораторияларынан бизнес операцияларынын өзөгүнө жылды. Камсыздандыруудагы автоматташтырылган андеррайтингден өндүрүштөгү алдын ала техникалык тейлөөгө, саламаттык сактоодогу клиникалык чечим кабыл алууну колдоодон каржы секторундагы алгоритмдик соодага чейин — ЖИ тутумдары азыр миллиондогон адамдарга таасир эткен чечимдерди кабыл алат же таасир этет. Бул жайылтуу менен тобокелдик да келет — чечим кабыл алуудагы ыйгарымдуулук, ачыктыктын жоктугу, коопсуздук алсыздыктары, купуялуулукту бузуулар жана чыныгы зыян келтире турган күтүлбөгөн кесепеттер.

Дүйнө жүзүндөгү жөнгө салуучу органдар жооп кайтарышты. Европа Биримдигинин ЖИ Акты 2024-жылдын августунда күчүнө кирип, шайкеш эместик үчүн олуттуу жазалар менен тобокелдикке негизделген жөнгө салуу негизин түздү. Окшош мыйзамдар Улуу Британияда, Канадада, Бразилияда жана Азия-Тынч океан аймагында алдыга жылууда. Бирок жөнгө салуу гана уюмдарга ЖИни кантип жооптуу башкаруу керектигин айтпайт. Ушул жерде ISO/IEC 42001 ролун ойнойт.

2023-жылдын декабрында жарыяланган ISO/IEC 42001 «Маалыматтык технология — Жасалма интеллект — Жасалма интеллект үчүн башкаруу тутуму» деп аталат. Бул сертификацияланууга мүмкүн болгон башкаруу тутуму стандарты — уюмдар үчүнчү тарап аудитинен өтүп, расмий сертификат ала алышат, маалымат коопсуздугу үчүн ISO 27001 же сапатты башкаруу үчүн ISO 9001 сыяктуу эле.

ISO 42001 эмнени камтыйт

ISO 42001 бардык ISO башкаруу тутуму стандарттарына мүнөздүү Гармониялаштырылган Структураны (HS) ээрчийт. Эгер уюмуңузда ISO 27001 же ISO 9001 сертификаты бар болсо, структура тааныш болот. Стандарт төмөнкү негизги бөлүктөрдү камтыйт:

4-бөлүк — Уюмдун контексти: ЖИ башкаруу тутумуна (AIMS) таасир эткен ички жана тышкы факторлорду түшүнүү, кызыкдар тараптарды жана алардын талаптарын аныктоо, AIMS чөйрөсүн аныктоо жана башкаруу тутумун түзүү.
5-бөлүк — Лидерлик: Жогорку жетекчилик AIMS-ке карата милдеттенмени көрсөтүшү, жооптуу ЖИ иштеп чыгуу жана колдонуу принциптерин камтыган ЖИ саясатын белгилеши жана ролдорду, жоопкерчиликтерди жана ыйгарым укуктарды бөлүштүрүшү керек.
6-бөлүк — Пландоо: ЖИ тутумдарына тиешелүү тобокелдиктерди жана мүмкүнчүлүктөрдү баалоону, анын ичинде ЖИ максаттарын жана аларга жетүү пландарын белгилөөнү камтыйт. Бул жерде ЖИге тиешелүү тобокелдиктерди баалоо методологиясы аныкталат.
7-бөлүк — Колдоо: Ресурстарды, компетенцияны, маалымдуулукту, коммуникацияны жана документтелген маалыматты камтыйт. Белгилей кетүүчү нерсе, ЖИ үчүн компетенция талаптары конкреттүү — уюм ЖИ тутумдарында иштеген персоналдын машиналык үйрөнүү, маалыматтар илими, этика жана тармактык экспертиза сыяктуу тиешелүү көндүмдөргө ээ экенин камсыз кылышы керек.
8-бөлүк — Операция: ЖИ тутумдарынын жашоо циклинин бардык этаптарында операциялык пландоо жана контролдоо. Бул ЖИ тутумунун таасирин баалоону, ЖИ иштеп чыгуу үчүн колдонулган маалыматтарды башкарууну жана ЖИ тутумдарын иштеп чыгуу, жайгаштыруу жана иштетүү учурунда колдонулган контролдоону камтыйт.
9-бөлүк — Натыйжалуулукту баалоо: AIMS жана ЖИ тутумунун натыйжалуулугун мониторингдөө, өлчөө, анализдөө жана баалоо. Ички аудит талаптарын жана жетекчиликтин карап чыгуусун камтыйт.
10-бөлүк — Жакшыртуу: Дал келбестиктерди башкаруу, түзөтүүчү иш-аракеттер жана AIMS-ти үзгүлтүксүз жакшыртуу.

А тиркемеси: ЖИ контролдоо маалымдамасы

ISO 27001 сыяктуу эле, ISO 42001 да маалымдама контролдорунун жыйындысын камтыган А тиркемесин камтыйт. Бул контролдор ЖИ башкаруунун конкреттүү көйгөйлөрүнүн айланасында уюштурулган:

Контролдоо аймагы	Фокус
ЖИ саясаттары	Адилеттүүлүк, ачыктык, жоопкерчилик, коопсуздук жана купуялуулукту камтыган жооптуу ЖИ үчүн саясаттарды белгилөө. Бул саясаттар бардык тиешелүү тараптарга жеткирилиши керек.
Ички уюштуруу	ЖИ башкаруу үчүн ролдорду жана жоопкерчиликтерди аныктоо, анын ичинде көзөмөл функциялары, ЖИ этика кеңеши жана ЖИге байланыштуу маселелерди жогорулатуу процедуралары.
ЖИ тутумдары үчүн ресурстар	ЖИ тутумдары үчүн керектүү эсептөө, маалымат жана инструменттер ресурстарын башкаруу. Бул маалымат сапатын башкаруу, маалыматтын тегин аныктоо жана инфраструктура талаптарын камтыйт.
ЖИ тутумунун таасирин баалоо	ЖИ тутумдарынын жеке адамдарга, топторго жана коомго тийгизген потенциалдуу таасирин баалоо. Бул көздөлгөн жана көздөлбөгөн кесепеттерди эске алышы керек.
ЖИ тутумунун жашоо цикли	Толук жашоо циклин камтыган контролдор: долбоорлоо, маалыматтарды чогултуу жана даярдоо, моделди куруу жана валидациялоо, жайгаштыруу, иштетүү, мониторингдөө жана эксплуатациядан чыгаруу.
ЖИ тутумдары үчүн маалыматтар	Маалыматтарды башкаруу контролдору, анын ичинде маалымат сапаты, окутуу маалыматтарындагы ыйгарымдуулукту аныктоо, маалыматтын тукуму, макулдук башкаруу жана маалыматтарды коргоо чаралары.
Үчүнчү тарап жана кардар мамилелери	Жеткирүү чынжырындагы ЖИге байланыштуу тобокелдиктерди башкаруу, анын ичинде үчүнчү тараптын ЖИ компоненттерине, API'лерге жана алдын ала окутулган моделдерге талаптар.

Стандарт ошондой эле В тиркемесин (ЖИ максаттары жана тобокелдик булактары), С тиркемесин (ЖИге тиешелүү маалымдама процесстери) жана D тиркемесин (AIMS тармактар боюнча колдонуу) камтыйт. Бул тиркемелер кошумча милдеттүү талаптардан эмес, ишке ашыруу боюнча практикалык жетекчилик берет.

ISO 42001 боюнча ЖИ тобокелдиктерин башкаруу

Тобокелдиктерди башкаруу ISO 42001дин өзөгүндө турат, бирок ЖИ тобокелдигинин мүнөзү салттуу маалымат коопсуздугу же операциялык тобокелдиктен принципиалдуу айырмаланат. Стандарт уюмдардан ЖИге тиешелүү тобокелдиктин бир нече категорияларын эске алууну талап кылат:

Ыйгарымдуулук жана адилеттүүлүк тобокелдиги: ЖИ тутумдары ыйгарымдуу окутуу маалыматтары, кемчиликтүү модел долбоорлоо же туура эмес белгилерди тандоо себебинен кемсинтүүчү натыйжаларды бериши мүмкүн. Стандарт уюмдардан ЖИ жашоо циклинин бардык этаптарында ыйгарымдуулукту баалоону жана азайтууну талап кылат.
Ачыктык жана түшүндүрмөлүүлүк тобокелдиги: Көптөгөн ЖИ тутумдары, өзгөчө терең үйрөнүү моделдери, «кара кутулар» катары иштейт. ISO 42001 уюмдардан ар бир ЖИ тутуму үчүн тобокелдик профилине жана кызыкдар тараптардын муктаждыктарына негизделген тиешелүү ачыктык деңгээлин аныктоону талап кылат.
Туруктуулук жана ишенимдүүлүк тобокелдиги: ЖИ тутумдары окутуу бөлүштүрүлүшүнөн айырмаланган маалыматтарга жолукканда күтүлбөгөн жүрүм-турум көрсөтүшү мүмкүн. Стандарт четки учурларды, каршылашкан киргизүүлөрдү жана бөлүштүрүү дрифтин текшерүүнү талап кылат.
Купуялуулук тобокелдиги: ЖИ тутумдары көп учурда жеке маалыматтарды иштетет, ал эми моделди инверсиялоо же мүчөлүктү аныктоо сыяктуу ыкмалар окутулган моделдерден жеке маалыматтарды алып чыга алат. ISO 42001 ЖИ тутумдары үчүн купуялуулукка таасирин баалоону жана тиешелүү техникалык коргоо чараларын талап кылат.
Коопсуздук тобокелдиги: Саламаттык сактоо, автономдуу транспорт каражаттары жана өнөр жай автоматизациясы сыяктуу тармактарда ЖИ кемчиликтери физикалык зыян келтириши мүмкүн. Стандарт тутум иштебей калуусунун потенциалдуу кесепеттерине пропорционалдуу коопсуздукту баалоону талап кылат.
Жоопкерчилик тобокелдиги: ЖИ тутумдары чечим кабыл алганда же таасир эткенде, так жоопкерчилик линиялары сакталышы керек. Стандарт адамдын көзөмөл механизмдеринин белгиленишин жана ЖИ натыйжалары үчүн жоопкерчиликтин ачык дайындалышын талап кылат.
Экологиялык тобокелдик: Чоң ЖИ моделдерин окутуу жана иштетүү олуттуу энергия керектейт. Азырынча негизги фокус эмес болсо да, стандарт экологиялык маселелерди кеңири таасирди баалоонун бир бөлүгү катары тааныйт.

ЖИ тутумунун таасирин баалоо

ISO 42001деги эң маанилүү талаптардын бири — ЖИ тутумунун таасирин баалоо (AISIA). Бул салттуу тобокелдикти баалоодон ары өтүп, ЖИ тутумунун жеке адамдарга, топторго, коомчулуктарга жана коомго потенциалдуу таасирин баалайт. AISIA ЖИ тутуму жайгаштырылганга чейин жүргүзүлүшү керек жана олуттуу өзгөрүүлөр болгондо мезгил-мезгили менен каралып турушу керек.

Таасирди баалоо түздөн-түз таасирлерди (ЖИ тутумунун көздөлгөн эффекттери), кыйыр таасирлерди (дароо байкалбай турган экинчи даражадагы эффекттер), кумулятивдүү таасирлерди (ЖИ тутумунун башка тутумдар жана процесстер менен биргелешкен эффекти) жана тутумдук таасирлерди (базарларга, социалдык тутумдарга же демократиялык процесстерге кеңири таасирлер) эске алышы керек.

ЕБ ЖИ Актысына баш ийген уюмдар үчүн AISIA жөнгө салуунун 27-беренесине ылайык жогорку тобокелдиктеги ЖИ тутумдары үчүн талап кылынган негизги укуктарга таасирин баалоого түздөн-түз дал келет. Бул ISO 42001 сертификациялоону жөнгө салуу шайкештигин көрсөтүүнүн практикалык жолуна айландырат.

ISO 42001 жана ISO 27001 ортосундагы байланыш

ISO 42001 жана ISO 27001 — бири-бирин толуктоочу стандарттар, атаандаш эмес. ISO 27001 маалымат коопсуздугун — маалымат активдерин коркунучтардан коргоону камтыйт. ISO 42001 ЖИ башкаруусун — ЖИ тутумдарын жашоо циклинин бардык этаптарында жооптуу башкарууну камтыйт. Практикада ЖИ тутумдарын жайгаштырган көпчүлүк уюмдарга экөө тең керек болот.

Бир нече аймакта дал келүү болот. Маалыматтарды коргоо жана купуялуулук контролдору эки стандартка тең тиешелүү. Кирүү контролу жана коопсуздук мониторинги ЖИ тутумдарына башка маалымат тутумдары сыяктуу эле тиешелүү. Жеткирүү чынжырынын коопсуздугу (ISO 27001:2022нин жаңы А тиркемесинде маанилүү) үчүнчү тараптын ЖИ компоненттерин башкарууга түздөн-түз тиешелүү.

Эки стандарт тең Гармониялаштырылган Структураны ээрчигендиктен, аларды бирдиктүү башкаруу тутумуна эффективдүү интеграциялоого болот. Контекстти анализдөө, лидерликке милдеттенме, ресурстарды башкаруу, ички аудит жана жетекчиликтин карап чыгуусу процесстери эки стандартка бир эле учурда кызмат кыла алат. Тармакка тиешелүү контролдор гана (ар бир стандарттын А тиркемеси) өзүнчө кароону талап кылат.

ISO 27001 сертификатына ээ уюмдар ISO 42001 менен олуттуу артыкчылыкка ээ. Башкаруу тутумунун инфраструктурасы мурунтан эле орнотулган — кошумча иш ЖИге тиешелүү саясаттарга, таасирди баалоого жана жашоо цикли контролдоруна багытталат.

ISO 42001 сертификаты кимге керек?

ISO 42001 ЖИ тутумдарын иштеп чыккан, камсыздаган же колдонгон ар кандай уюмга тиешелүү. Стандарт бул үч ролду айырмалайт, анткени тобокелдиктер жана жоопкерчиликтер ар кандай:

ЖИ иштеп чыгуучулар ЖИ моделдерин жана тутумдарын курушат. Алар адилеттүүлүккө, ачыктыкка жана туруктуулукка таасир эткен долбоорлоо чечимдери үчүн жоопкерчилик тартышат. Бул технологиялык компанияларды, ЖИ изилдөө уюмдарын жана ишканалардын ички ЖИ командаларын камтыйт.
ЖИ камсыздоочулар ЖИ тутумдарын продукттар, кызматтар же API'лер аркылуу башкаларга жеткиликтүү кылышат. Алар сунуштарынын кардарлар жана жөнгө салуучулар күткөн башкаруу талаптарына жооп беришин камсыз кылышы керек. Бул SaaS провайдерлерди, булуттагы ЖИ кызмат көрсөтүүчүлөрдү жана платформа компанияларын камтыйт.
ЖИ колдонуучулар ЖИ тутумдарын бизнес процесстеринде жайгаштырышат жана иштетишет. ЖИни иштеп чыкпаса да, алар аны кантип колдонуп, мониторинг жүргүзүп жана өз контекстинде башкарганы үчүн жооптуу. Бул ЖИ менен иштеген инструменттерди колдонгон дээрлик бардык ири ишканаларды камтыйт.

Сертификациялоо өзгөчө жөнгө салынган тармактардагы (каржы кызматтары, саламаттык сактоо, фармацевтика, камсыздандыруу), ишкана кардарларына ЖИ тутумдарын жеткирген, ЖИ Актысынын талаптарына кирген ЕБде иш алып барган жана жооптуу ЖИ практикалары негизинде айырмаланууну каалаган уюмдар үчүн баалуу.

ЕБ ЖИ Акты менен шайкештик

ЕБ ЖИ Акты ЖИ тутумдарын төрт тобокелдик категориясына бөлөт: кабыл алынгыс тобокелдик (тыюу салынган), жогорку тобокелдик (кеңири талаптарга баш ийет), чектелген тобокелдик (ачыктык милдеттенмелери) жана минималдуу тобокелдик (конкреттүү талаптар жок). Жогорку тобокелдиктеги ЖИ тутумдары үчүн Акт тобокелдиктерди башкаруу, маалыматтарды башкаруу, техникалык документтер, жазууларды жүргүзүү, ачыктык, адамдын көзөмөлү, тактык, туруктуулук жана киберкоопсуздукту камтыган талаптарды коёт.

ISO 42001 ЕБ ЖИ Акты менен автоматтык шайкештикти камсыз кылбайт, бирок Акттын көптөгөн талаптарын аткаруу үчүн структуралаштырылган негиз берет. Атап айтканда:

ISO 42001деги ЖИ тобокелдиктерин башкаруу процесси (6-бөлүк) ЕБ ЖИ Актысынын тобокелдиктерди башкаруу талаптарына (9-берене) дал келет.
А тиркемесиндеги маалыматтарды башкаруу контролдору Акттын маалымат сапаты талаптарына (10-берене) шайкеш.
ЖИ тутумунун таасирин баалоо негизги укуктарга таасирин баалоону (27-берене) камтыйт.
Жашоо цикли контролдору техникалык документтерди (11-берене) жана жазууларды жүргүзүүнү (12-берене) камтыйт.
Ачыктык жана түшүндүрмөлүүлүк талаптары Акттын ачыктык милдеттенмелерин (13-14 беренелер) колдойт.
Адамдын көзөмөл контролдору Акттын адамдын көзөмөл талаптарына (14-берене) шайкеш.

Европа Комиссиясы гармониялаштырылган стандарттар ЖИ Акты менен шайкештик презумпциясын белгилөөдө роль ойной тургандыгын белгилеген. ISO 42001 Европанын гармониялаштырылган стандарты эмес, эл аралык стандарт болсо да (CEN/CENELEC тарабынан кабыл алынышы керек), акыры жарыяланчу гармониялаштырылган стандарттардын негизин түзөт же аларга күчтүү таасир этет деп кеңири күтүлүүдө.

Сертификациялоо процесси

ISO 42001 сертификациялоо башка ISO башкаруу тутуму сертификациялары сыяктуу эки этаптуу аудит процессин ээрчийт:

1-этап — Документтерди карап чыгуу: Сертификациялоо органы уюмдун AIMS документтерин, анын ичинде ЖИ саясатын, чөйрө билдирүүсүн, тобокелдикти баалоо методологиясын, А тиркемеси контролдору үчүн Колдонулуу Билдирүүсүн, ЖИ тутумдарынын тизмесин, таасирди баалоону жана колдоочу процедураларды карап чыгат. Аудитор башкаруу тутумунун стандарттын талаптарына жооп берүүгө долбоорлонгонун текшерет жана 2-этапка чейин көңүл бурууну талап кылган аймактарды аныктайт.

2-этап — Ишке ашырууну аудит кылуу: Аудиторлор AIMS ишке ашырылганын жана эффективдүү экенин текшерүү үчүн жеринде (же алыстан) баалоо жүргүзүшөт. Бул персонал менен маектешүүнү, жазууларды карап чыгууну, ЖИ тутумдарын жана алардын документтерин изилдөөнү жана контролдордун натыйжалуулугун текшерүүнү камтыйт. Аудит стандарттын бардык бөлүктөрүн жана бардык тиешелүү А тиркемеси контролдорун камтыйт.

Эки этапты ийгиликтүү аяктагандан кийин, уюм жылдык көзөмөл аудиттерине баш ийген үч жылдык сертификат алат. Көзөмөл аудиттери ар жылы башкаруу тутумунун бир бөлүгүн карап чыгат, толук тутум үч жылдык циклде камтылат.

Баштоо үчүн практикалык кадамдар

ISO 42001 сертификациялоону каражат алган уюмдар төмөнкү даярдык кадамдарын жасашы керек:

ЖИ тутумдарыңыздын тизмесин түзүңүз. Билбегениңизди башкара албайсыз. Колдонулуп жаткан, иштелип чыгып жаткан же кардарларга берилген бардык ЖИ тутумдарынын толук тизмесин түзүңүз. ЖИ түрү (машиналык үйрөнүү, NLP, компьютердик көрүү ж.б.), колдонулган маалыматтар, таасир эткен чечимдер жана таасирге учураган кызыкдар тараптар жөнүндө маалыматтарды кошуңуз.
Учурдагы башкаруу жетилгендигиңизди баалаңыз. Көптөгөн уюмдарда формалдуу эмес болсо да, ЖИ башкаруу практикалары бар. Эмне бар экенин документтеңиз жана ISO 42001 талаптарына каршы боштуктарды аныктаңыз.
ЖИ саясатын белгилеңиз. Бул уюмуңуздун жооптуу ЖИге болгон милдеттенмесин билдирген негизги документ. Ал адилеттүүлүк, ачыктык, жоопкерчилик, коопсуздук, купуялуулук жана адамдын көзөмөлү маселелерин камтышы керек.
ЖИ таасирин баалоону жүргүзүңүз. Ар бир ЖИ тутуму үчүн жеке адамдарга, топторго жана коомго потенциалдуу таасирди баалаңыз. Жогорку тобокелдиктеги тутумдарга дароо көңүл буруңуз.
Учурдагы башкаруу тутумдары менен интеграциялаңыз. Эгер ISO 27001 же башка сертификаттарыңыз бар болсо, AIMS-ти башынан эле интеграциялоону пландаңыз. Бул кайталоодон качат жана операциялык жүктү азайтат.
Компетенцияны түзүңүз. ЖИ башкаруу техникалык ЖИ экспертизасынын, юридикалык жана жөнгө салуу билиминин, этиканын жана тармактык түшүнүктүн айкалышын талап кылат. Көндүм боштуктарын аныктап, окутууга инвестиция салыңыз.
Жетекчиликти тартыңыз. ЖИ башкаруу IT долбоору эмес — ал аткаруучу жетекчиликтин колдоосун жана кросс-функционалдык катышууну талап кылат. Жөнгө салуу шайкештиги, кардардын ишеними жана тобокелдиктерди азайтуу камтылган бизнес негиздемесин сунуштаңыз.

BALTUM кантип жардам бере алат

BALTUM ISO 42001 сертификациялоосун көздөгөн уюмдарга комплекстүү колдоо көрсөтөт. Биздин ЖИ башкаруу адистери бир нече тармакта жана жөнгө салуу чөйрөсүндө кардарлар менен иштешет. Биздин кызматтарыбыз:

ЖИ башкаруу даярдыгын баалоо: Учурдагы ЖИ практикаларыңыздын ISO 42001 талаптарына каршы кылдат баалоосу, приоритеттүү ишке ашыруу жол картасы катары берилет.
AIMS ишке ашырууну колдоо: ЖИ башкаруу тутумуңузду долбоорлоо жана ишке ашыруу боюнча практикалык жетекчилик, анын ичинде саясат иштеп чыгуу, тобокелдик методологиясы, таасирди баалоо негиздери жана контролдорду ишке ашыруу.
ЖИ тутумунун таасирин баалоо: ЖИ тутумдарыңыз үчүн таасирди баалоону эксперттик жетектөө, ыйгарымдуулук, адилеттүүлүк, ачыктык жана адам укуктарына өзгөчө көңүл буруу менен.
Интеграцияланган башкаруу тутумун долбоорлоо: ISO 27001 же башка сертификаттарга ээ уюмдар үчүн керексиз кайталоосуз ЖИ башкаруусун камтыган интеграцияланган башкаруу тутумдарын долбоорлойбуз.
ЕБ ЖИ Акты менен шайкештикти картага түшүрүү: AIMS-иңиздин ЕБ ЖИ Акты талаптарына деталдуу картасын түзүү, сертификациялоо гана камтый албаган боштуктарды аныктоо.
Сертификация алдындагы аудит: Сертификациялоо органыңыздын визитинен мурун даярдыкты камсыз кылуу үчүн тажрыйбалуу аудиторлор тарабынан жүргүзүлгөн толук сыноо аудити.

Жооптуу ЖИ башкаруу тез арада атаандаштык зарылчылыкка айланууда, жөн гана жөнгө салуу талабы эмес. Азыр бекем ЖИ башкаруу тутумдарын орноткон уюмдар ЖИ мүмкүнчүлүктөрүн ишенимдүү масштабдоого, өнүгүп жаткан жөнгө салуу күтүүлөрүн аткарууга жана кардарлардын, өнөктөштөрдүн жана коомчулуктун ишенимин жеңүүгө жакшыраак даяр болот. ISO 42001 негизди камсыз кылат — милдет аны технология талап кылган тактык жана милдеттенме менен ишке ашыруу.