GÜNDEMDE

DÜNYADAN TEKNOLOJİ HABERLERİ

→
2024 AB Yapay Zekâ Tüzüğü: İşletmede model envanteri neden gerekli?
İş Zekâsı · 2024
İş Zekâsı2024

2024 AB Yapay Zekâ Tüzüğü: İşletmede model envanteri neden gerekli?

Yapay zekâ kullanan ekiplerin amaç, sistem sahibi ve insan denetimini kayıt altına alması için uygulanabilir bir işletme örneği.

Arşiv incelemesi · Konu yılı 2024

Yazılımcının GünlüğüYayımlanma: 18 Kas 20263 dk okuma
Okuma ilerlemesi0%

Model adı tek başına envanter oluşturmaz

AB’nin 2024/1689 sayılı Yapay Zekâ Tüzüğü farklı yapay zekâ sistemleri ve kullanımları için risk odaklı bir çerçeve getirdi. Bir şirket için başlangıç sorusu kaç model satın alındığından çok, hangi iş kararlarına hangi önerinin etki ettiğidir. Aynı temel model, satış metni taslağında ve müşteri başvurusunda farklı bağlamlarda çalışabilir. Her uygulama için amaç, kullanıcı grubu, verinin nereden geldiği, sonucun öneri mi eylem mi olduğu ve süreci durdurabilen kişinin kim olduğu kaydedilmelidir.

Bir tedarik senaryosunun sınırını yazmak

Tedarik ekibinin faturalardan alan çıkaran bir aracı denediğini düşünün. Deneme kapsamı önerilen tutarı bir çalışanla doğrulamaktır. Aynı aracın daha sonra faturaları doğrudan ödeme kuyruğuna eklemesi iş etkisini değiştirir. Bu farkı yeni sürümün sıradan özelliği olarak geçmeyin. Envanterde yetki ve eylem sınırını yeniden belgeleyin. Hatalı alan çıkarsa düzeltme izinin nerede tutulacağını ve tedarikçiye neyin bildirileceğini belirleyin. Doğrudan sağlayıcı adını yazmak kullanım amacının nasıl değiştiğini açıklamaz.

Makine öğrenimi işlem hattıKavramsal şema · makalenin teknik akışını özetler

İnsan denetiminin çalışıp çalışmadığını test edin

Bir onay ekranı, onaylayan kişi doğru veriyi ve itiraz seçeneğini göremiyorsa işlevini yerine getirmez. Örnek belgeye yanlış bir tutar ekleyin ve onaylayanın farkı nasıl anladığını gözlemleyin. Otomatik işlemin durdurulması, hatalı sonucun tekrar üretilmemesi ve hangi sürümde meydana geldiğinin bulunması ayrı kontrol noktalarıdır. Denetleyen kişinin öneriyi reddedebilmesi kadar doğru karara varmak için gereken zamanı da ölçün. Sadece onay düğmesinin mevcut olması, iş akışındaki insan kontrolünün etkili olduğunu göstermez.

Sürüm değişimi yönetim kaydına yansısın

Yeni sağlayıcı, veri seti veya iş amacı değiştiğinde envanter kaydını gözden geçirecek kişiyi belirleyin. Her değişiklikte aynı belgeyi sıfırdan hazırlamak gerekmez. İş etkisi, erişim ve sonuç üretme sınırı değişen alanları işaretleyin. Uygulanacak hukuki sınıflandırma, kullanım bağlamı ve kurumun rolü üzerinden ayrıca değerlendirilir. Bu tarihsel işletme dosyasında önerilen envanter bir karar destek aracıdır. Teknik ekip hangi sürümün nerede kullanıldığını, iş ekibi ise hangi çıktıya dayanarak karar verildiğini açıkça görebilmelidir.

Model çıktısını kaynak ve ölçümle sınayın

Yapay zekâ uygulamalarında akıcı bir yanıtın doğru bir yanıt olduğunu varsaymak ciddi tasarım hatasına yol açabilir. Modelin hangi veriye eriştiği, aldığı yetkiler, kullandığı araçlar, başarısızlık durumunda nasıl davrandığı ve kendi belirsizliğini nasıl ifade ettiği önceden tanımlanmalıdır. Değerlendirme için yalnızca kolay sorular değil, güncel olmayan belge, yetkisiz istek, boş arama sonucu ve çelişkili kaynak gibi örnekler de hazırlanmalıdır. Kaynak bağlantıları ve sürüm bilgisi saklanarak yanıtın nereden geldiği gerektiğinde yeniden denetlenebilmelidir.

Üretimde maliyet, veri gizliliği ve geri dönüş

Model seçimi tek başına sistem performansını belirlemez. Bağlam uzunluğu, arama adımı, önbellek, araç çağrısı, hata tekrarları ve kullanıcı yükü toplam maliyeti etkiler. Hassas bilgileri dış hizmetlere gereksiz göndermeyin; loglarda kimlik ve özel verilerin ne kadar tutulacağını açıkça sınırlandırın. Yanlış otomatik kararların geri alınabildiği, insan incelemesine devredildiği ve etkisinin ölçülebildiği bir akış kurmak önemlidir. Yeni modeli canlıya almadan önce belirlenmiş test setiyle önceki sürüme göre fayda ve hata farkını ölçün.

İlk okuyan sen ol ✎ Yorum yaz

Yorumlar

Henüz yorum yok. İlk katkıyı sen yapabilirsin.

Editörden tartışma sorusu Ekibinizde bir yapay zekâ aracı öneriden otomatik işleme geçtiğinde bunu kim onaylıyor?

Ayşe Yılmaz

“2024 AB Yapay Zekâ Tüzüğü: İşletmede model envanteri neden gerekli?” başlıklı makalede özellikle şu noktayı düşündüm: ölçümlerin kaynağı ve veri modeli doğrulanmadan sonuçlara güvenmem.

Editörün örnek yanıtı

Editörün notu: Bu noktada faydayı ilan edilen özelliklerden ayrı değerlendirmek gerekir. Önce küçük bir kullanım senaryosu ve ölçüm yöntemi tanımlamak yerinde olur.

Zeynep Şahin

Bence maliyet ve bakım yükü ayrıca tartışılmalı. İlk kurulumun kolay olması, sonraki sürümlerin de sorunsuz çalışacağı anlamına gelmiyor.

Deniz Yalçın

Bunu küçük ölçekte denemek isterdim. Ölçülebilir bir başarı kriteri belirlemeden uygulamaya geçmek riskli.

✎ Yorum yaz

Adın ve soyadın yorumunla birlikte herkese açık görünecek.