IBM'in Python Araç Seti, Yapay Zeka Belirsizliğini Ölçüyor

IBM, makine öğrenimi modellerinin şeffaflığını ve yapay zekaya güvenirliliğini artırmak amacıyla geliştiricilere ve veri bilimcilerine makine öğrenimi tahminlerinin belirsizliğini ölçmek için algoritmalar sağlayan Uncertainty Qualification 360 veya UQ360 adlı açık kaynaklı bir Python kütüphanesi oluşturdu.

IBM Research tarafından sağlanan UQ360, derin öğrenmeye dayalı yapay zeka sistemleri aşırı güvenli tahminler yaptığında ortaya çıkan sorunları çözmeyi amaçlıyor. Python araç seti ile kullanıcılara tahmine dayalı modellerin belirsizliğini ölçme, değerlendirme, iyileştirme ve iletme sürecini kolaylaştıran algoritmalar sağlıyor. Şu anda, UQ360 araç seti, ortak bir arabirimin arkasında toplanan farklı belirsizlik türlerini tahmin etmek için 11 algoritma sağlamakta. IBM ayrıca, UQ algoritmalarının ve ölçümlerinin seçilmesi konusunda rehberlik sağlılor.

IBM, yapay zeka sistemlerinin aşırı güvenli tahminlerinin ciddi sonuçlara yol açabileceğini vurguluyor. Bahsedilen örnekler arasında, bir sohbet robotunun eczanenin ne zaman kapanacağından emin olmamasıyla hastanın ihtiyaç duyduğu ilacı alamamasına neden olan konuşmanın güvenilir belirsizlik tahminlerinin sepsis tespitinde ölüm kalım meselesine dönüşebiliyor. UQ, tahmine dayalı modellerin sınırlarını ve olası başarısızlık noktalarını ortaya çıkararak yapay zekanın emin olamadığını ifade etmesine olanak sağladığından dağıtımın güvenirliliğini artırıyor.

IBM'in yapay zekaya olan güveni artırmaya yönelik önceki çabaları, makine öğrenimi modellerinde önyargıyı azaltan AI Fairness 360; makine öğrenimi güvenliği için bir Python kütüphanesi olan Adversarial Robustness Toolbox; kullanıcıların makine öğrenimi modellerinin etiketleri nasıl tahmin ettiğini anlamalarına yardımcı olan AI Explainability 360 araç setlerini içeriyordu.


HABERLER