Sorumlu Yapay Zeka
Güvenlik açısından kritik işler için yapay zeka güvenilir, kontrollü ve savunulabilir olmalıdır. MineGuard AI, çıktıların incelemeleri, kontrolleri, uyumluluk kararlarını ve risk yönetişimini etkileyebileceği yüksek sonuçlu ortamlar için tasarlanmıştır.
"Yapay zeka yetkin insanları desteklemeli, onların yerini almamalıdır. Her MineGuard AI iş akışı; insanları kontrolde tutmak, kanıt izlenebilirliğini korumak, müşteri verilerini güvence altına almak ve gözden geçirilebilen, sorgulanabilen, iyileştirilebilen ve savunulabilen çıktılar üretmek üzere tasarlanmıştır."
Sorumlu Yapay Zeka İlkeleri
MineGuard AI'ı nasıl tasarladığımızı, oluşturduğumuzu ve işlettiğimizi yöneten sekiz ilke.
1. İnsan kontrolü
MineGuard AI nihai güvenlik, hukuki, mühendislik, tıbbi, istihdam veya operasyonel kararları vermez. Yapay zeka çıktıları kullanılmadan önce gözden geçirilmeli, doğrulanmalı, düzenlenmeli, onaylanmalı veya reddedilmelidir. Nihai kararlar; sahayı, işi, kanıtları ve riski anlayan yetkili kişilere aittir.
2. Kanıta dayalı çıktılar
Güvenlik çalışmaları gerçeklere dayanır. MineGuard AI, çıktıları kullanıcının sağladığı bilgilere (olay kanıtları, prosedürler, risk kayıtları, İSGYS belgeleri, papyon analizleri, kontrol standartları ve diğer onaylı kaynak materyaller) dayandırmak üzere tasarlanmıştır. Güvenlik ekiplerinin desteklenmeyen yapay zeka anlatılarına güvenmemesi gerektiğine inanıyoruz.
3. Müşteri verileriyle eğitim yapılmaz
MineGuard AI; genel yapay zeka modellerini veya üçüncü taraf temel modelleri eğitmek için müşteri tarafından yüklenen belgeleri, olay kanıtlarını, istemleri, çıktıları veya operasyonel verileri kullanmaz. Müşteri verileri yalnızca müşteri tarafından talep edilen hizmeti sunmak için işlenir, başka hiçbir amaçla kullanılmaz.
4. Tasarım gereği gizlilik ve mahremiyet
MineGuard AI; hassas güvenlik, operasyon ve inceleme bilgilerini özenle işler. Sistemlerimiz; şifreleme, rol tabanlı erişim, kiracı ayrımı, denetim günlüğü ve kontrollü saklama dahil olmak üzere gizlilik, mahremiyet, erişim kontrolü ve müşteri bilgilerinin güvenli işlenmesi etrafında tasarlanmıştır. Müşteriler, hangi bilgilerin yükleneceği, kimlerin erişebileceği ve çıktıların nasıl kullanılacağı konusunda kontrolü ellerinde tutarlar.
5. Güvenlik açısından kritik bağlamlar için tasarlandı
Genel yapay zeka araçları güvenlik açısından kritik işler için yeterli değildir. MineGuard AI; güvenlik, risk, uyumluluk, olay incelemesi, İSGYS incelemesi ve kritik kontrol yönetimi için özel olarak oluşturulmuştur. İş akışlarımız, güvenlik profesyonellerinin gerçekte nasıl çalıştığına göre yapılandırılmıştır. Bu bağlamda Sorumlu Yapay Zeka, işe uygun, faydalı, gözden geçirilebilir ve kanıta dayalı bir çıktı üretmek anlamına gelir.
6. Şeffaflık ve gözden geçirilebilirlik
Kullanıcılar yapay zeka destekli çıktıları anlayabilmeli, sorgulayabilmeli ve iyileştirebilmelidir. MineGuard AI; kullanıcıların varsayımları belirleyebilmesi, kaynak materyali kontrol edebilmesi, mantığı test edebilmesi, hataları düzeltebilmesi ve kullanılmadan önce nihai sonucu iyileştirebilmesi için çıktıları yapılandırılmış, izlenebilir ve gözden geçirilebilir hale getirmeyi amaçlar. Yapay zeka incelemeyi atlamamalı, hızlandırmalıdır.
7. Önyargı farkındalığı ve kalite kontrol
Yapay zeka sistemleri eksik, önyargılı, tutarsız veya aşırı güvenli çıktılar üretebilir. MineGuard AI; yapılandırılmış iş akışları, kontrollü istemler, kanıta dayalı analizler, kullanıcı inceleme adımları ve güvenliğe özel çıktı formatları kullanarak bu riski azaltır. Kullanıcıları çıktıları sorgulamaya, eksik bakış açılarını kontrol etmeye ve kaynak kanıtlara göre doğrulamaya teşvik ediyoruz.
8. Güvenlik, yönetişim ve hesap verebilirlik
Sorumlu Yapay Zeka güçlü bir yönetişim gerektirir. MineGuard AI; izin kontrolleri, denetim izleri, sürüm geçmişi, kullanıcı incelemesi, onay iş akışları ve müşteri kontrollü yapılandırma aracılığıyla hesap verebilir kullanımı destekler. Amacımız, kuruluşların hassas veriler, karar alma ve yönetişim yükümlülükleri üzerindeki kontrollerini sürdürürken güvenlik sonuçlarını iyileştirmelerine yardımcı olmaktır.
MineGuard AI'ın yapmayacağı şeyler
Bunlar sorumluluk reddi beyanları değil, kesin taahhütlerdir. Ürünü nasıl tasarladığımızı yansıtırlar.
Bir ürün tasarım ilkesi olarak Yapay Zeka
MineGuard AI, güvenlik ekiplerinin parçalanmış bilgilerden daha iyi içgörülere, daha hızlı öğrenmeye ve daha güçlü kontrol yönetimine geçmesine yardımcı olmak için vardır. Yapay zekanın sorumlu bir şekilde uygulandığında (insanların kontrolde olduğu, kanıtların merkeze alındığı, gizliliğin korunduğu ve çıktıların inceleme için tasarlandığı durumlarda) güvenlik çalışmalarını iyileştirebileceğine inanıyoruz.
Bizim için Sorumlu Yapay Zeka bir politika beyanı değildir. Bir ürün tasarım ilkesidir.
Yapay zeka, güvenlik profesyonellerinin daha iyi kararlar almasına yardımcı olmalı, bu kararları onlar adına vermemelidir.
Pratikte görmek ister misiniz?
Sorumlu yapay zeka tasarımının gerçek bir güvenlik iş akışında nasıl çalıştığını görmek için Incident AI, SHMS AI veya Critical Risk AI demosu planlayın.