Alograsi | Algoritma Tabanlı Hükumet

ALGOCRACY | Algorithm by Government

Algoritmalar kavramı bunun merkezindedir ve hükümette algoritmaların kullanımı — ve daha özel olarak, algoritmik karar verme — Birleşik Krallık hükümetinin A-seviyesi ve GCSE notlarını belirlemek için bir algoritma kullanmaya yönelik feci girişiminden bu yana artan bir inceleme altına girmiştir. Pandemi nedeniyle iptal edilen sınavlar yerine Medyadaki ve siyasi alandaki tartışmalar, aşırı basitleştirmeler ve yanlış beyanlar, algoritmalar hakkında edinilen bilgeliğin içine gömülü hale geldiğinden, algoritmik karar vermenin riskleri ve dezavantajları üzerine orantısız bir şekilde odaklandı.

Ancak, bunlardan hükümette daha fazla yararlanmak için zorlayıcı nedenler var. Sağlık hizmetleri ve refah sistemi gibi alanların yanı sıra eğitim sunumunu dönüştürme potansiyeline sahip güçlü bir araç olabilirler. Ancak, tüm avantajlarından yararlanmak ve potansiyel risklerinden kaçınmak için doğru şekilde tasarlanmaları ve devreye alınmaları önemlidir.

Bu bilgilendirme, kamu sektöründe algoritmaların kullanımıyla ilgili en yaygın yanlış anlaşılmalardan bazılarını ele alıyor ve daha olumlu, nüanslı bir yaklaşım için durumu ortaya koyuyor.

Devletler Açısından Algoritmalar ve Yapay Zeka Nasıl Yararlı Olabilir?

Algoritmalar zaten o kadar geniş ve çeşitli işlevler için kullanılıyor ki, onları tek bir sınıf olarak düşünmek pek mantıklı gelmiyor ve karmaşık AI ve ML uygulamaları hala araştırılıyor. Ancak, yararlarının çoğu zaman büyük miktarda veriyi herhangi bir insandan çok daha hızlı ve çok daha tutarlı bir şekilde işlemede yattığını söylemek doğru olur.

Algoritmalar, insanların gözden kaçırabileceği ayrıntıları tespit etmede çok iyidir. Yorulmuyorlar veya tatile ihtiyaç duymuyorlar ve bu nedenle uygun maliyetlidirler. Doğru şekilde tasarlanan ve uygulanan algoritmalar, devlet hizmetlerinin kaynakları çok daha etkili bir şekilde yeniden tahsis etmesine ve nihayetinde vatandaşlara benzeri görülmemiş düzeyde bir verimlilik sunmasına olanak sağlayabilir.

AI için beş ana kullanım türü düşünebiliriz:

• AI, vatandaş deneyimini kişiselleştirmeye yardımcı olabilir. Her bireyin hükümetle nasıl etkileşime girdiği farklıdır ve AI, insanların sorularını yanıtlamak, önerileri kişiselleştirmek ve hizmetleri kullanıcıların ihtiyaçlarına göre uyarlamak gibi alanlarda yardımcı olabilir.
• Veriler, hükümetin hizmetleri gerçek zamanlı olarak izlemesini sağlamak için optimize edilebilir. Sistemler, gecikmeleri, yanlışlıklar ve verimsizlikleri önleyerek verileri takip edip anında analiz edecek şekilde geliştirilebilir.
• Vakaları daha etkili bir şekilde sınıflandırmaya yardımcı olabilir. Birçok devlet hizmeti, hangi hastanın en acil doktora görünmesi gerektiği veya kimin devlet desteğinden yararlanma hakkına sahip olduğuna karar vermek gibi olayları, vatandaşları veya bilgileri doğru kategoriye yerleştirmeyi gerektirir.
• Makine öğrenimi algoritmaları, tahminler yapmak ve eğilimleri ve gelecekteki davranışları anlamak için özellikle yararlı olabilir. Sürekli gelişen bilgisayar gücü ve büyük miktarda verinin birleşimi, insan uzmanlardan çok daha iyi bir iş çıkarabilir ve algoritmalar bunun daha verimli, hızlı, ucuz ve daha büyük ölçekte yapılmasını sağlar.
• Devlet programları ve departmanları karmaşık ve karmaşık olabilir. Bir politika programının tüm potansiyel sonuçlarının ne olduğu baştan her zaman açık değildir. Yeni teknoloji, karmaşık sistemlerin zaman içindeki etkilerini incelemeye yardımcı olabilir ve hatta sonuçları hakkında daha fazla bilgi edinmek için politikaları tam olarak uygulamadan önce test edebilir.

Devlette Algoritmik Karar Verme

Doğaları gereği, devlet organları ve kamu görevlileri, her gün, insanların yaşamları üzerindeki etkileri, neredeyse önemsiz olandan (örneğin, çöplerin hangi gün toplanacağını seçmek) yaşamı değiştirene (vize veya yetki verilmesi) kadar değişen sayısız karar verir. faydalar için). Hiçbir karar verme süreci kusursuz değildir. Ancak hükümetler, kararın etkisine uygun bir düzeyde şeffaflık, hesap verebilirlik ve temyiz başvurusunda bulunma sorumluluğuna sahiptir.

Bu bağlamda belirlenen algoritmalar, birçok türdeki hükümet kararlarını desteklemede, verimliliği, tutarlılığı ve doğruluğu artırmada tamamen meşru bir rol oynayabilir. Doğru tasarım ve uygulama ile, genellikle kıt kaynakları yeniden tahsis ederek, seçilmiş yetkililerin ve kamu görevlilerinin zamanlarını insan karar alma süreçlerine özgü becerileri gerektiren davalara ve konulara ayırmalarına olanak tanıyarak hükümetin insan unsurunu güçlendirebilirler: empati, duyarlılık ve nüans anlayışı.

Eğitimi iyileştirmek için AI kullanma potansiyeli buna bir örnektir: Kayıt, hazırlık, nicel değerlendirme ve işaretleme ve evrak işleri gibi rutin görevlerin otomatikleştirilmesi, eğitimin daha bireysel olarak uyarlanmasına ve her öğrencinin kendi kapasitesine ve ilerlemesine uygun bir hızda verilmesine olanak sağlayabilir. McKinsey tarafından yapılan araştırma, mevcut öğretmen saatlerinin yüzde 20 ila 40'ının mevcut teknoloji kullanılarak otomatikleştirilebilecek etkinliklere harcandığını gösterdi; bu, öğretmenlerin daha iyi öğrenci sonuçlarına yol açan etkinliklere yönlendirebilecekleri haftada ek 13 saat anlamına geliyor.

Devlette Algoritmik Karar Vermeye Yönelik Eleştiriler

Hükümette algoritmalar hakkındaki kamuoyu tartışması şu anda güvensizlik, şüphe ve sinizm ile karakterizedir. Devlette algoritmalarla ilgili yorumlar, genellikle meşru endişeleri yararsız klişeler ve yanlış beyanlarla karıştırarak, risklere ve olumsuz taraflara odaklanma eğilimindeydi.

Algoritmaların bazı çok önemli hatalara açık olabileceğini kabul etmek önemlidir:

• İlk olarak, algoritmalar önyargılı olabilir — yani, algoritmanın tasarımına ve girdi verilerinin niteliğine ve kalitesine bağlı olarak, algoritmalar belirli insan türlerini istenmeyen şekillerde sistematik olarak dezavantajlı hale getirebilir. Örneğin, ABD’deki bir sağlık hizmeti algoritması, beyaz meslektaşları kadar hasta olan siyah hastaların sağlık riskini hafife aldı. Ve ABD’deki suçluların mükerrerliğini tahmin etmeye yardımcı olmak için kullanılan COMPAS algoritması, siyah sanıklara karşı önyargılı olmakla suçlandı. (COMPAS’ın hangi suçluların tekrar suç işlemeye devam edeceğini doğru bir şekilde tahmin ettiği gösterilmiş olsa da, yeniden suç işlemeyecekleri tahmin etmede o kadar doğru olmadı. veya yüksek risk.) İnsanlar da elbette önyargılı olabilir. Ancak taraflı bir algoritma, taraflı bir insandan çok daha büyük ölçekte bir etkiye sahip olabilir.
• İkincisi, algoritmalar yanlış bağlamda kullanılabilir. Doğası gereği karmaşık ortamlarda veya yetersiz insan kontrolleri ve dengeleri ile herkese uyan tek boyutlu bir algoritmik karar uygulamak, çok daha yüksek çarpık, yanlış veya taraflı kararlar riski doğurabilir. A-seviyeleri örneğinde durum böyledir: Geçmişteki öğrencilerle ilgili toplu verilere dayanarak sınav notlarını hesaplamak, algoritma ne kadar karmaşık olursa olsun, öğrencilerin bireysel çabalarını değerlendirmek için asla yeterli bir ikame olamazdı. Dijital okuryazarlığın evrensel olmadığını ve ağırlıklı olarak dijital Evrensel Kredi sisteminde bildirildiği gibi, kullanıcıların kendi verilerini girmesine güvenmenin bazılarını dezavantajlı durumda bırakabileceğini de hatırlamakta fayda var.
• Üçüncüsü, algoritmalar kötü tasarlanabilir ve ilgili faktörleri hesaba katmayabilir. Örneğin, Evrensel Kredinin yönetiminde: Bir bireye bir ayda birden çok kez ödeme yapıldığı durumlarda, ki bu serbest meslek sahibi veya özel sektör çalışanları arasında yaygındır, algoritma kazançları olduğundan fazla hesaplayabilir ve Evrensel Kredi ödemelerini azaltabilir. Avustralya hükümeti de şu anda benzer şekilde kusurlu bir algoritmik sürecin sonucu olarak yanlış ihraç edilen borçlarda tahmini 721 milyon doları (AUD) geri ödeme sürecinde.

Mitler ve Yanlış Tanıtımlar

Algoritmik teknolojilerin nasıl çalıştığına dair genel bir farkındalık eksikliği, bazı yararsız mecazların ortaya çıktığı anlamına geliyor. Aşağıda incelediğimiz mitler, Birleşik Krallık medyasındaki algoritmalar üzerine çeşitli makalelerden aldığımız bazı temalardır. İncelemede, gerçek çok daha inceliklidir:

“Algorithms shouldn’t be trusted”

Basında yer alan haberler genellikle algoritmaların, yapay zekanın ve makine öğreniminin insanların karar verme mekanizmasının tam bir ikamesi olarak kullanıldığını veya sezgi sınırında bir bağımsızlık düzeyine atfedildiğini ima eder. Aslında, algoritmalar genellikle insanlar tarafından tasarlanan ve yönetilen bir sürecin bir unsuru olarak kullanılır. Algoritmalar genellikle kendi başlarına karar vermezler, ancak karar verme sürecini çok daha kolay hale getirebilirler.

“Mutant algoritmayı suçla”

“Mutant” algoritma fikri, insan kontrolünün veya anlayışının ötesinde gelişen bir yapay zekayı çağrıştırıyor. Ve en gelişmiş makine öğrenimi sistemlerine atıfta bulunan “kara kutu” etrafında son teknoloji AI konusunda bir endişe olduğu doğru.

“Gerçekten faydalı bir şey yapıyorlar mı?”

Manşetlerden uzakta, birçok kuruluş, yüksek hacimli kullanıcılar arasında çarpıldığında önemli faydalar sağlayan hizmetlerde marjinal iyileştirmeler yapmak için algoritmalar ve yapay zeka kullanır. Örneğin, bir tren sinyalizasyon şirketi, trenlerin zamanında çalışmasına yardımcı olmak için yapay zekayı kullandı ve tüm Londra tren istasyonlarındaki toplam gecikmeyi her gün 200 dakikaya kadar azalttı. HMRC, vergi kaçakçılığı durumlarını belirlemeye yardımcı olmak için bir algoritma kullanır ve işletmelere yönelik baskınları daha etkili bir şekilde hedefleyerek vergi mükelleflerinin zaman ve paradan tasarruf etmesini sağlar. Çalışma ve Emeklilik Bakanlığı, dolandırıcılar tarafından yaygın olarak kullanılan kimlik klonlama tekniklerini tespit etmek için algoritmalar kullanır ve kamu kaynaklarını korur.

Yapıcı Bir Yaklaşım

Hükümetlerin, doğru verimlilik ve güvenceler, tutarlılık ve esneklik dengesiyle karar verme süreçlerini dikkatli bir şekilde tasarladıklarından emin olmaları gerekir. Algoritmaları kullandıkları yerde, algoritmaların nerede ve nasıl kullanıldığı, nasıl tasarlandıkları ve kullandıkları verilerle ilgili şeffaflık olmalı ve ayrıca meydan okuma için hesap verebilirlik ve mekanizmalar sağlanmalıdır.

Algoritmalar vatandaşları olumlu yönde etkileyecekse, hükümetlerin bir dizi ödünleşimi dengelemesi gerekir:

• Vatandaşlara olası algoritmik zararı en aza indirirken hükümet verimliliği nasıl artırılır?
• Devlet ve kamu hizmetlerinin insan unsurunu ortadan kaldırmadan kamu hizmeti sunumu nasıl geliştirilir?
• Kişisel veri gizliliğine zarar vermeden bilgili ve etkili algoritmalar nasıl geliştirilir?

Medyada oldukça tek taraflı yer almasına rağmen, kuruluşların algoritmalardan en iyi şekilde yararlanmasına yardımcı olmak için yapılan değerli çalışmalar var. Ada Lovelace Enstitüsü, algoritmik hesap verebilirlik ile ilgili zor sorulara bakarak algoritmik karar verme sistemleri üzerine kapsamlı yazılar yazdı. Veri Etiği ve İnovasyon Merkezi ayrıca yakın zamanda algoritmik karar vermedeki yanlılığı ve ayrıca şeffaflık ve kamunun hükümetteki algoritmalara olan güvenine ilişkin daha geniş soruları gözden geçirdi.

Algoritmalar, doğru kullanılırsa, politika oluşturma ve kamu hizmeti sunumu için büyük faydalar sağlayabilecek değerli araçlardır. Kaynaklar sınırlıdır ve hükümetler, vatandaşları yanlış anlama korkusuyla algoritmaların sağlayabileceği faydalardan mahrum etmemelidir. Bunun yerine, bunları makul bir şekilde kullanmak ve şeffaflık, hesap verebilirlik ve meydan okuma için yeterli mekanizmaları uygulamaya koymak için gerekli zaman ve çabayı harcamalıdırlar. Bu şekilde, hükümetler halkın güvenini yeniden inşa edebilir ve korkunç mutant algoritmayı sonsuza kadar geçebilir.

Kaynaklar ;

Institute.global | McKinsey

This text is an enriched translation of “Government by Algorithm”.