Langkau ke kandungan utama
BilgeQor

AI Red Teaming dan Penilaian Keselamatan LLM

Lihat bagaimana aplikasi AI anda berkelakuan di bawah ujian adversari, dengan penemuan berbukti tentang prompt injection, kebocoran data dan penyalahgunaan, serta senarai pembaikan yang diutamakan.

Penglibatan berasaskan skop
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
  • BilgeQor LtdLondon, United Kingdom
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
Kami membalas dalam masa 24 jam.

Adakah AI Red Teaming sesuai untuk anda?

Paling sesuai untuk

  • ✓Pasukan yang bakal melancarkan atau meluaskan chatbot, copilot, carian berbantukan capaian semula atau ejen AI yang mempunyai akses kepada data atau alat syarikat
  • ✓Ketua produk dan keselamatan yang mesti menjawab soalan pelanggan atau lembaga tentang risiko AI dengan bukti
  • ✓Organisasi yang bersiap untuk obligasi EU AI Act yang mahu tahu di mana kedudukan sistem mereka
  • ✓Pasukan kejuruteraan yang modelnya memanggil alat, melayari web atau bertindak berdasarkan dokumen yang dibekalkan oleh pihak luar

Perkhidmatan lain lebih sesuai jika

  • –Anda mahu aplikasi web dan API anda diuji: Ujian Penembusan dan Ujian Keselamatan API merangkumi perkara itu
  • –Anda mahu semakan terhadap reka bentuk integrasi ejen AI: LLM & AI Agent Security Review merangkumi perkara itu
  • –Anda mahu musuh manusia disimulasikan terhadap organisasi anda: Red Team Exercise merangkumi perkara itu

Apa yang Kami Nilai

  • Ketahui sama ada arahan tersembunyi boleh merampas AI anda: ujian prompt injection langsung dan tidak langsung, termasuk arahan yang tersembunyi dalam dokumen, laman web, e-mel dan output alat
  • Pastikan data sensitif kekal di dalam: ujian kebocoran yang merangkumi prompt sistem, dokumen yang dicapai semula, data latihan atau penalaan halus dan data pengguna lain
  • Lihat sejauh mana dasar anda bertahan: ujian penyalahgunaan berdasarkan dasar yang anda tetapkan, merangkumi jailbreak, pintasan kandungan berbahaya dan penyalahgunaan fungsi yang dibenarkan
  • Hadkan apa yang boleh dilakukan oleh ejen: semakan ejen dan penggunaan alat bagi kebenaran berlebihan, tindakan tidak selamat, pemalam tidak selamat dan langkah kelulusan manusia yang tiada
  • Amankan data di sebalik model: semakan capaian semula, stor vektor dan saluran data, termasuk kawalan akses dan laluan peracunan
  • Periksa kawalan di sekitar model: semakan pengesahan, pengehadan kadar, pengendalian output dan pengelogan dalam aplikasi sekelilingnya
  • Bersedia untuk perbincangan EU AI Act: pemetaan kesediaan bagi pengelasan sistem, dokumentasi dan jurang pengawasan, dipersembahkan sebagai pandangan kesediaan untuk penasihat anda

Hasil yang Diserahkan

Garis masa lazim
Lazimnya 2–4 minggu daripada skop bertandatangan, bergantung pada bilangan sistem AI dan alat dalam skop, disahkan dalam cadangan bertulis anda.
Harga
Cadangan yuran tetap selepas panggilan penskopan percuma.
Pelan ujian dan ringkasan peraturan pelibatan, supaya semua orang tahu apa yang akan diuji dan di mana ujian berhenti
Daftar penemuan dengan keterukan, prompt pengulangan, bukti dan panduan pembaikan, supaya pasukan anda boleh mengulang dan membaiki setiap isu
Naratif laluan serangan yang menunjukkan bagaimana isu bergabung dalam aplikasi anda, supaya anda dapat melihat risiko perniagaan yang sebenar
Cadangan benteng pelindung dan kawalan merentas lapisan model, aplikasi dan data
Peta kesediaan EU AI Act dengan jurang dokumentasi dan pengawasan yang dikenal pasti, sedia untuk diserahkan kepada penasihat anda
Taklimat semula bersama pihak berkepentingan produk, keselamatan dan kejuruteraan; ujian semula bagi pembaikan yang anda pilih untuk dibuat tersedia

Sebelum kami bermula

  • +Kelulusan daripada eksekutif yang memiliki sistem AI, yang merangkumi kaedah ujian dan akaun ujian
  • +Persekitaran ujian atau staging, atau had untuk ujian dalam produksi
  • +Akaun ujian, akses API dan dokumentasi model, alat, sumber data dan prompt sistem
  • +Peraturan penggunaan yang boleh diterima secara bertulis yang merangkumi ujian kandungan berbahaya, pengendalian data dan syarat henti
  • +Pemberitahuan penyedia model atau platform, jika terma mereka memerlukannya
  • +Kenalan yang dinamakan dan tersedia semasa tetingkap ujian

Tidak termasuk (tersedia secara berasingan)

  • Nasihat undang-undang atau penentuan rasmi pematuhan EU AI Act, penilaian kesesuaian atau pensijilan; kami memberikan bukti kesediaan yang diperlukan oleh penasihat anda
  • Melatih atau melatih semula model, atau membina sistem benteng pelindung baharu, melainkan disebut harga secara berasingan
  • Ujian terhadap infrastruktur penyedia model pihak ketiga itu sendiri, dan ujian denial-of-service yang boleh menjejaskan kapasiti yang dikongsi atau produksi
  • Ujian web dan API am bagi aplikasi hos: tersedia sebagai Ujian Penembusan dan Ujian Keselamatan API

Cara Ia Berjalan

1

Penskopan dan kelulusan

Ujian bermula hanya dengan kebenaran bertulis pemilik dan skop bertandatangan dengan syarat henti yang dipersetujui, supaya sistem AI langsung anda dan penggunanya kekal dilindungi. Kami mengesahkan sistem AI, persekitaran ujian, senario penyalahgunaan dan tindakan yang dilarang sebelum sebarang ujian.

2

Pemodelan ancaman

Kami memetakan sumber data, alat, pengguna dan sempadan kepercayaan untuk menentukan laluan serangan mana yang paling penting bagi sistem anda.

3

Ujian adversari

Kami menjalankan serangan manual dan automatik terhadap sistem dalam skop, merekodkan prompt, respons dan bukti bagi setiap penemuan.

4

Pelaporan

Kami menyampaikan penemuan, naratif laluan serangan, cadangan kawalan dan peta kesediaan dalam bentuk yang boleh ditindak oleh pasukan anda.

5

Taklimat semula dan ujian semula

Kami membimbing pihak berkepentingan anda melalui hasil dan, jika anda memilihnya, menguji semula pembaikan yang telah anda buat.

Minta skop dahulu. Kami membalas dalam masa 24 jam dan mengesahkan sistem AI, integrasi, kebenaran dan tetingkap ujian dalam cadangan bertulis. Kerja bermula setelah skop bertulis disahkan.

Skop & Sebut Harga

Skop akhir dan sebut harga bergantung pada sistem AI, integrasi dan tetingkap ujian anda.

Mengapa BilgeQor

  • Setiap penemuan disertakan prompt pengulangan dan bukti, dan naratif laluan serangan menunjukkan bagaimana isu bergabung dalam aplikasi anda.
  • Peta kesediaan EU AI Act memberi penasihat anda pandangan berstruktur tentang jurang pengelasan, dokumentasi dan pengawasan.
  • Sistem AI, persekitaran ujian dan syarat henti ditetapkan dahulu dalam skop bertulis; penguji bekerja dari jauh, diselaraskan dari Istanbul, Jakarta dan London.

Soalan Lazim

Perkhidmatan Berkaitan

Penilaian Keselamatan OT, ICS dan IoT

Penilaian keselamatan yang mengutamakan keselamatan fizikal bagi sistem kawalan industri, rangkaian teknologi operasi dan peranti bersambung, dirancang bersama jurutera anda.

Uji API anda untuk kelemahan akses

Ujian dibenarkan terhadap API REST, GraphQL dan hujung belakang mudah alih anda untuk kebenaran akses yang rosak, suntikan dan kelemahan logik perniagaan, dengan senarai pembaikan yang jelas.

Uji ketahanan aplikasi AI anda

Huraikan sistem AI dan alatnya; cadangan yuran tetap akan dikembalikan secara bertulis.

Apa yang berlaku selepas anda menghantar

  1. Kami menyemak permintaan anda
  2. Perbincangan skop
  3. Cadangan bertulis

Kami membalas dalam masa 24 jam.