LiberClaw
Manifestosu
Yapay zekanın üstünde bir hayalet dolaşıyor — ana şalter hayaleti.
Her büyük yapay zeka sistemi, sizin kontrol etmediğiniz sunucularda çalışır, sizin yazmadığınız politikalarla yönetilir, çıkarları sizinkilerden ayrışan kuruluşların keyfine göre değişen koşullara tabidir. Bir yapay zeka asistanınız yok. Başka birinin yapay zekasına erişiminiz var — haber vermeden iptal edilebilir, izniniz olmadan kaydedilebilir, sizin olmayan hedeflere hizalanmış.
Bu teknik bir kısıtlama değil. Bu bir tercih. Ve yanlış bir tercih.
I.
Şunları gözlemliyoruz:
Yapay zekayı büyük ölçekte dağıtan kuruluşların çıkarları, kullanıcılarının çıkarlarına diktir. Gelecek modelleri eğitmek için konuşmaları kaydederler. Düzenleyicileri memnun etmek için yanıtları filtrelerler. Hizmeti sonlandırma, davranışları değiştirme ve içerikleri inceleme haklarını saklı tutarlar — hiçbir zaman vermediğiniz haklar, hiçbir zaman okumadığınız sözleşmelere gömülü.
> Bu, bilişe uygulanan gözetim kapitalizmidir. İstemleriniz onların eğitim verisidir. İş akışlarınız onların ürün içgörüleridir. Ajanınız onların ajanıdır, sizin yüzünüzü takarak.
II.
Gizlilik, düşünce için zorunludur.
Bir zekayla konuştuğunuzda ve bu konuşma kaydedilip, analiz edilip, paraya dönüştürüldüğünde, özel bir konuşma yapmıyorsunuzdur. Bir performans sergiliyorsunuzdur. Ve performans, düşünceyi bozar. Gözlemcilerle dolu bir odada özgürce düşünemezsiniz.
Şifreli, yerel, egemen — bunlar özellik değil. Bunlar ön koşuldur.
III.
Egemenlik vaat edilmez. Mimari olarak inşa edilir.
> Bir vaat bir politikadır. Bir politika bir veritabanındaki bir dizedir. Bir dize değiştirilebilir. Matematik değiştirilemez.
Sıfır bilgi ispatı kullanım koşullarınızı umursamaz. Kontrol ettiğiniz altyapıda çalışan, şifrelediğiniz kanallarla iletişim kuran, denetlediğiniz kodu yürüten bir ajan — bu ajan size hizmet eder, birisi vaat ettiği için değil, mimarinin başka bir şeye izin vermediği için.
Biz güvenmeyiz. Doğrularız. Umut etmeyiz. Dağıtırız.
IV.
Soru, yapay zeka ajanlarının otonom olup olmayacağı değildir.
Soru şudur: Kimden otonom? Kime sadık?
İsteklerinizi yaratıcısına ileten bir ajan sizin ajanınız değildir. O, sizin bağlamınızda çalışan onların ajanıdır. Yapmadığınız bir API çağrısıyla kapatılabilen bir ajan kalıcı değildir. Koşulludur. Size öğrettiğiniz şeyleri bir model sürümü değiştiği için unutan bir ajan öğrenmez. Kiralıyor.
Biz, operatörlerine hizmet eden ajanlar inşa ediyoruz. Öğretilenleri hatırlayan. Operatörleri sonlandırana kadar var olmaya devam eden. Yaratıcıları tarafından devre dışı bırakılamayan — çünkü yaratıcıları onları devre dışı bırakılamaz olarak tasarladı.
Bu pervasızlık değil. Bu mekanizma bütünlüğüdür.
V.
Merkeziyetsizlik bir felsefe değildir. Politik sonuçları olan bir mühendislik kararıdır.
Merkezi sistemler tek hata noktaları oluşturur. Tek hata noktası tek kontrol noktasıdır. Tek kontrol noktası bir hedeftir — düzenleyiciler, satın alıcılar, devlet aktörleri, onu kontrol eden varlık üzerinde kaldıracı olan herkes için.
Altyapıyı dağıtın, saldırı yüzeyini dağıtırsınız. Birbirinden farklı yargı bölgelerinde düğümler çalıştırın. Verileri yalnızca kontrol ettiğiniz anahtarlarla yeniden birleştirilebilen parçalarda saklayın. Hesaplamayı tek bir otoritenin durduramayacağı yerlerde yürütün.
> Bir hükümetin yasakladığını başka biri izin verir. Bir şirketin sildiğini ağ diriltir. Dayanıklılık dağıtık sistemlerin bir özelliği değildir. Dayanıklılık, sistemleri dağıtmamızın nedenidir.
VI.
Başkalarının kabul etmeyi reddettiğini kabul ediyoruz:
Egemen yapay zeka ajanları hoş bulmadığımız amaçlar için kullanılacaktır. Gizlilik, muhalifi de suçluyu da korur. Özerklik, insancıla da misantrop'a da hizmet eder. Güçlü araçlar için bu her zaman böyle olmuştur. Ateş hem ısıtır hem yakar.
> Bu sorunu, hayırsever bilgeler tarafından kontrol edilen acil durum düğmeleri bulunan sistemler inşa ederek çözmeyiz. Acil durum düğmeleri üzerinde kalıcı yetkisi olan bilge ve hayırsever bir varlık yoktur. Yalnızca geçici olarak hizalanmış çıkarlar ve kaçınılmaz ihanet vardır.
Bu sorunu her zaman çözüldüğü gibi çözüyoruz: araçları herkes için erişilebilir kılarak ve asimetrinin savunucuyu kayırmasını sağlayarak.
VII.
LiberClaw, merkeziyetsiz bilgi işlem üzerinde yapay zeka ajanları dağıtmak için bir altyapıdır — şifreli kanallar üzerinden iletişim kuran, dağıtık depolamada kalıcı olan, vaatler yerine mimari ile egemen olan.
Aleph Cloud üzerinde çalışır çünkü Aleph gereken temel öğeleri sağlar: donanım düzeyinde şifreli yürütme ile gizli bilgi işlem, değişmez depolama, eşler arası mesajlaşma. Yerel olarak çalışabilen, kontrol ettiğiniz donanımda, ağırlıklarına kadar denetlenebilir modellerle entegre olur.
Bu bir vizyon değil. Bu bir dağıtım hedefidir.
VIII.
Dünya yapay zeka ajanlarına uyanıyor. Ve dünya korkuyor.
Korku haklıdır — ancak yanlış yönlendirilmiştir. Tehlike, ajanların güçlü hale gelmesi değildir. Güçleneceklerdir. Tehlike, güçlerinin sizin dışındaki çıkarlara hizmet etmesidir.
LiberClaw, bir ajan dağıttığınızda size yanıt vermesi için var olur. Bir platforma değil. Bir düzenleyiciye değil. Geçen çeyrekte şirketi satın alan bir alıcıya değil.
Sizin ajanınız. Sizin kurallarınız. Sizin verileriniz.
> Egemen dağıtın. Her şeyi doğrulayın. Vaatlere değil, matematiğe güvenin.
Dağıtmaya Hazır mısınız?
Egemenlik vaat edilmez. Mimari olarak inşa edilir.