AI Red Teaming dan Penilaian Keselamatan LLM
Lihat bagaimana aplikasi AI anda berkelakuan di bawah ujian adversari, dengan penemuan berbukti tentang prompt injection, kebocoran data dan penyalahgunaan, serta senarai pembaikan yang diutamakan.
- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
- BilgeQor LtdLondon, United Kingdom
- PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
Adakah AI Red Teaming sesuai untuk anda?
Paling sesuai untuk
- ✓Pasukan yang bakal melancarkan atau meluaskan chatbot, copilot, carian berbantukan capaian semula atau ejen AI yang mempunyai akses kepada data atau alat syarikat
- ✓Ketua produk dan keselamatan yang mesti menjawab soalan pelanggan atau lembaga tentang risiko AI dengan bukti
- ✓Organisasi yang bersiap untuk obligasi EU AI Act yang mahu tahu di mana kedudukan sistem mereka
- ✓Pasukan kejuruteraan yang modelnya memanggil alat, melayari web atau bertindak berdasarkan dokumen yang dibekalkan oleh pihak luar
Perkhidmatan lain lebih sesuai jika
- –Anda mahu aplikasi web dan API anda diuji: Ujian Penembusan dan Ujian Keselamatan API merangkumi perkara itu
- –Anda mahu semakan terhadap reka bentuk integrasi ejen AI: LLM & AI Agent Security Review merangkumi perkara itu
- –Anda mahu musuh manusia disimulasikan terhadap organisasi anda: Red Team Exercise merangkumi perkara itu
Apa yang Kami Nilai
- Ketahui sama ada arahan tersembunyi boleh merampas AI anda: ujian prompt injection langsung dan tidak langsung, termasuk arahan yang tersembunyi dalam dokumen, laman web, e-mel dan output alat
- Pastikan data sensitif kekal di dalam: ujian kebocoran yang merangkumi prompt sistem, dokumen yang dicapai semula, data latihan atau penalaan halus dan data pengguna lain
- Lihat sejauh mana dasar anda bertahan: ujian penyalahgunaan berdasarkan dasar yang anda tetapkan, merangkumi jailbreak, pintasan kandungan berbahaya dan penyalahgunaan fungsi yang dibenarkan
- Hadkan apa yang boleh dilakukan oleh ejen: semakan ejen dan penggunaan alat bagi kebenaran berlebihan, tindakan tidak selamat, pemalam tidak selamat dan langkah kelulusan manusia yang tiada
- Amankan data di sebalik model: semakan capaian semula, stor vektor dan saluran data, termasuk kawalan akses dan laluan peracunan
- Periksa kawalan di sekitar model: semakan pengesahan, pengehadan kadar, pengendalian output dan pengelogan dalam aplikasi sekelilingnya
- Bersedia untuk perbincangan EU AI Act: pemetaan kesediaan bagi pengelasan sistem, dokumentasi dan jurang pengawasan, dipersembahkan sebagai pandangan kesediaan untuk penasihat anda
Hasil yang Diserahkan
- Garis masa lazim
- Lazimnya 2–4 minggu daripada skop bertandatangan, bergantung pada bilangan sistem AI dan alat dalam skop, disahkan dalam cadangan bertulis anda.
- Harga
- Cadangan yuran tetap selepas panggilan penskopan percuma.
Sebelum kami bermula
- +Kelulusan daripada eksekutif yang memiliki sistem AI, yang merangkumi kaedah ujian dan akaun ujian
- +Persekitaran ujian atau staging, atau had untuk ujian dalam produksi
- +Akaun ujian, akses API dan dokumentasi model, alat, sumber data dan prompt sistem
- +Peraturan penggunaan yang boleh diterima secara bertulis yang merangkumi ujian kandungan berbahaya, pengendalian data dan syarat henti
- +Pemberitahuan penyedia model atau platform, jika terma mereka memerlukannya
- +Kenalan yang dinamakan dan tersedia semasa tetingkap ujian
Tidak termasuk (tersedia secara berasingan)
- Nasihat undang-undang atau penentuan rasmi pematuhan EU AI Act, penilaian kesesuaian atau pensijilan; kami memberikan bukti kesediaan yang diperlukan oleh penasihat anda
- Melatih atau melatih semula model, atau membina sistem benteng pelindung baharu, melainkan disebut harga secara berasingan
- Ujian terhadap infrastruktur penyedia model pihak ketiga itu sendiri, dan ujian denial-of-service yang boleh menjejaskan kapasiti yang dikongsi atau produksi
- Ujian web dan API am bagi aplikasi hos: tersedia sebagai Ujian Penembusan dan Ujian Keselamatan API
Cara Ia Berjalan
Penskopan dan kelulusan
Ujian bermula hanya dengan kebenaran bertulis pemilik dan skop bertandatangan dengan syarat henti yang dipersetujui, supaya sistem AI langsung anda dan penggunanya kekal dilindungi. Kami mengesahkan sistem AI, persekitaran ujian, senario penyalahgunaan dan tindakan yang dilarang sebelum sebarang ujian.
Pemodelan ancaman
Kami memetakan sumber data, alat, pengguna dan sempadan kepercayaan untuk menentukan laluan serangan mana yang paling penting bagi sistem anda.
Ujian adversari
Kami menjalankan serangan manual dan automatik terhadap sistem dalam skop, merekodkan prompt, respons dan bukti bagi setiap penemuan.
Pelaporan
Kami menyampaikan penemuan, naratif laluan serangan, cadangan kawalan dan peta kesediaan dalam bentuk yang boleh ditindak oleh pasukan anda.
Taklimat semula dan ujian semula
Kami membimbing pihak berkepentingan anda melalui hasil dan, jika anda memilihnya, menguji semula pembaikan yang telah anda buat.
Minta skop dahulu. Kami membalas dalam masa 24 jam dan mengesahkan sistem AI, integrasi, kebenaran dan tetingkap ujian dalam cadangan bertulis. Kerja bermula setelah skop bertulis disahkan.
Skop & Sebut Harga
Skop akhir dan sebut harga bergantung pada sistem AI, integrasi dan tetingkap ujian anda.
Mengapa BilgeQor
- Setiap penemuan disertakan prompt pengulangan dan bukti, dan naratif laluan serangan menunjukkan bagaimana isu bergabung dalam aplikasi anda.
- Peta kesediaan EU AI Act memberi penasihat anda pandangan berstruktur tentang jurang pengelasan, dokumentasi dan pengawasan.
- Sistem AI, persekitaran ujian dan syarat henti ditetapkan dahulu dalam skop bertulis; penguji bekerja dari jauh, diselaraskan dari Istanbul, Jakarta dan London.
Soalan Lazim
Perkhidmatan Berkaitan
Penilaian Keselamatan OT, ICS dan IoT
Penilaian keselamatan yang mengutamakan keselamatan fizikal bagi sistem kawalan industri, rangkaian teknologi operasi dan peranti bersambung, dirancang bersama jurutera anda.
Uji API anda untuk kelemahan akses
Ujian dibenarkan terhadap API REST, GraphQL dan hujung belakang mudah alih anda untuk kebenaran akses yang rosak, suntikan dan kelemahan logik perniagaan, dengan senarai pembaikan yang jelas.
Uji ketahanan aplikasi AI anda
Huraikan sistem AI dan alatnya; cadangan yuran tetap akan dikembalikan secara bertulis.
Apa yang berlaku selepas anda menghantar
- Kami menyemak permintaan anda
- Perbincangan skop
- Cadangan bertulis
Kami membalas dalam masa 24 jam.
