10 · 1 сарапшы
Human & AI Cognitive Synergy
Адамды, бизнесті және цифрлық инфрақұрылымды жасанды интеллектіні әзірлеу, енгізу және пайдалану кезінде туындайтын тәуекелдерден қорғау: AI-агенттер, үлкен тілдік модельдер, автономды жүйелер, корпоративтік AI-сервистер және генеративті ЖИ.
Негізгі қатерлер
- AI-сервистер арқылы құпия деректердің жылыстауы
- Коммерциялық құпияны жалпыға қолжетімді модельдерге беру
- Prompt Injection және AI-агенттерді манипуляциялау
- Автономды AI-агенттердің рұқсатсыз әрекеттері
- Модельдердің қате немесе ойдан шығарылған жауаптары
- Deepfake, дауысты клондау және синтетикалық тұлғалар
- AI-фишинг және автоматтандырылған әлеуметтік инженерия
- Модель деректері мен білімін алмастыру немесе улау
- Қауіпсіз емес бөгде модельдер мен AI-сервистерді пайдалану
- AI-агенттердің шектен тыс өкілеттіктері
- Қате автоматтандырылған шешімдер
- Құпиялылықты және дербес деректерді қорғауды бұзу
- Қызметкерлердің ЖИ-ді бақылаусыз пайдалануы — Shadow AI
- Ақпараттық жүйелерге жаңа AI-шабуылдар
- ЖИ қолданудың беделдік, заңдық және операциялық тәуекелдері
Типтік міндеттер
- Ұйымның AI Security аудиті
- Қызметкерлердің генеративті ЖИ-ді пайдалануына аудит
- AI-агенттер мен олардың өкілеттіктеріне аудит
- ЖИ-ді қауіпсіз пайдаланудың корпоративтік саясатын әзірлеу
- AI-жүйелерге беруге рұқсат етілген және тыйым салынған деректерді жіктеу
- AI-жүйелердің Threat Modeling-і
- AI-шешімдерді енгізер алдында тексеру
- AI-модельдер мен AI-агенттерге Red Teaming
- Prompt Injection-ге төзімділікті тестілеу
- Сыни операциялар үшін Human-in-the-Loop баптау
- AI-агенттердің корпоративтік жүйелерге қолжетімділігін басқару
- AI-инциденттерге ден қою рәсімдерін әзірлеу
- Басшылар мен қызметкерлерді ЖИ-ді қауіпсіз пайдалануға оқыту
- AI-шешімдер жеткізушілерін бағалау
- Жаңа AI-қатерлерді сараптамалық бағалау
Сектор сарапшылары
Сектордың оқу материалдары
Сектор сарапшыларының «Оқыту» бөлімінде материалдары әзірге жоқ.