Elon Musk ve Sam Altman Arasındaki Yazışmalar, Mahkemeye Kanıt Olarak Sunuldu! E-postalar, Çalkantılı İlişkiyi Belgeliyor!

Tesla CEO'su Elon Musk, Sam Altman ve OpenAI'a karşı açtığı davada kanıt olarak aralarında geçen birkaç e-postayı yayınladı. Bu e-postalar, şu anda 157 milyar dolar değerindeki OpenAI şirketinin başlangıcında olan bitenlere (ve böylesine büyük bir şirketin "sıradan" veya "gündelik" denebilecek başlangıcına) güçlü bir ışık tutuyor.

14 Kasım 2024'te Musk, OpenAI'a ve CEO'suna karşı açtığı davayı değiştirerek Microsoft'u da ek bir davalı olarak ekledi ve iki şirketi "fiili bir birleşme" oluşturmak ve yapay zeka sektöründe rekabete aykırı uygulamalarda bulunmakla suçladı.

Musk, 2015 yılında OpenAI'nin kurulmasına yardımcı oldu; ancak o zamandan bu yana şirketi ve liderlerini sık sık eleştirdi. SpaceX CEO'su Musk, 2018 yılında yapay zeka girişiminden tamamen ayrıldı.

Musk, bu hafta federal mahkemeye sunduğu değiştirilmiş şikayet dilekçesinde, Altman'ın kendisine 2015 yılında fikri önermek üzere gönderdiği ilk e-postalar da dahil olmak üzere OpenAI'nin başlangıcını özetleyen bir dizi belge sundu.

Musk'ın avukatları, Altman'ın Musk'a ilk ulaşmasını "suları test etme" ve Tesla CEO'sunu finansmanını ve bağlantılarını şirkete getirmeye ikna etme çalışması olarak nitelendirdi.

Şikayete göre iki teknoloji lideri, Mart 2015'in başlarında ABD hükümetine açık bir mektup yazarak yapay zekanın güvenli bir şekilde oluşturulması için düzenleme yapılması gerektiğini vurguladılar. Musk'ın avukatlarının iddiasına göre, Altman bu mektubun ardından bir "fırsat" sezdi ve Musk'a aşağıdaki e-postayı gönderdi:

Hadi Başlayalım! (25 Mayıs 2015, Saat: 21:10, Sam Altman)

İnsanlığın yapay zeka geliştirmesini durdurmanın mümkün olup olmadığı hakkında çok düşündüm.

Tüm Reklamları Kapat

Bence cevap, neredeyse kesinlikle hayır.

Yapay Zeka ile ilgili diğer içerikler ›

• Makina Öğrenmesi (Yapay Zeka) ile Avcı-Toplayıcı Çocukların Ortak Noktası Ne?
• Makineler Öğrenirken Çok Fazla Güç Tüketiyor! Yapay Zekayı Enerji Açısından Bu Kadar Obur Yapan Ne?
• Yapay Zekaya Nasıl Ulaşacağız?

Her halükarda gerçekleşecekse, bunu ilk olarak Google'dan başka birinin yapması iyi olur gibi görünüyor.

YC'nin [Y Combinator] yapay zeka için bir Manhattan Projesi başlatmasının iyi olup olmayacağı konusunda bir fikrin var mı? Benim düşüncem, en iyi ~50 kişinin birçoğunun bu proje üzerinde çalışmasını sağlayabileceğimiz ve teknolojinin bir tür kar amacı gütmeyen kuruluş aracılığıyla dünyaya ait olacağı, ancak üzerinde çalışan kişilerin işe yararsa startup benzeri bir tazminat alacağı şekilde yapılandırabileceğimiz yönünde. Tabii ki tüm regülasyonlara uyacağız/agresif bir şekilde destekleyeceğiz.

Sam

Evrim Ağacı'ndan Mesaj

Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, sitemizin/uygulamamızın çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, %100 reklamsız ve çok daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol

Elon Musk, et al. v. Samuel Altman, et al. (2024) davasında kanıt olarak geçen bu e-posta, OpenAI şirketinin kuruluş e-postası olacaktı.

Musk, aynı gün 22:09'da 3 kelimeyle cevapladı: "Muhtemelen konuşmaya değer"

24 Haziran 2015, 10:14, Sam Altman

Mahkeme belgelerine göre, bir ay sonra Altman, Musk'ın "kendini çok da adamayan" yanıtını cevapladı ve Musk'a yeni bir yapay zeka laboratuvarı için ayrıntılı bir teklif sundu:

Görevimiz, ilk genel yapay zekayı yaratmak ve onu bireysel güçlendirme için, yani geleceğin en güvenli görünen dağıtılmış versiyonu için kullanmak olacaktır. Daha genel olarak, güvenlik birinci sınıf bir gereklilik olmalıdır.

İdeal olarak 7-10 kişilik bir grupla başlayacağımızı ve oradan genişlemeyi planladığımızı düşünüyorum. Mountain View'da sahip olabilecekleri güzel bir ekstra binamız var.

Bence yönetişim yapısı için 5 kişiyle başlamalıyız ve ben; sen, Bill Gates, Pierre Omidyar, Dustin Moskovitz ve beni öneriyorum. Teknoloji vakfa ait olacak ve "dünyanın iyiliği için" kullanılacak ve bunun nasıl uygulanacağının açık olmadığı durumlarda beşimiz karar vereceğiz. Araştırmacıların önemli bir finansal potansiyeli olacak, ancak bu potansiyel, inşa ettikleri şeyle ilişkili olmayacak, bu da çatışmanın bir kısmını ortadan kaldıracaktır (onlara rekabetçi bir maaş ödeyeceğiz ve potansiyeli pekiştirmek için YC hissesi vereceğiz). Hangi çalışmaların açık kaynaklı olması gerektiği ve hangilerinin olmaması gerektiği konusunda sürekli konuşacağız. Bir noktada ekibi yönetecek birini bulacağız, ancak bu kişi muhtemelen yönetim kurulunda yer almamalı.

Tüm Reklamları Kapat

Yönetime ek olarak bir şekilde dahil olacak mısın? Bence bu, işin doğru yöne çekilmesi ve en iyi insanların işin bir parçası olması açısından çok faydalı olacaktır. İdeal olarak ayda bir ya da başka bir zaman gelip onlarla ilerleme hakkında konuşursun. YC'de sınırlı bir şekilde yer alan kişilere genel olarak "yarı zamanlı ortaklar" diyoruz (örneğin Peter Thiel ile bunu yapıyoruz, ancak şu anda işlere çok dahil), ancak buna ne isterseniz diyebiliriz. Bu işe gerçekten zaman ayıramasan bile kamuoyu önünde destekleyici olsan bile, bu muhtemelen işe alım için gerçekten yararlı olacaktır.

Bence yönetmelik mektubuyla ilgili doğru plan, bunun başlamasını beklemek ve sonra "şimdi bunu yaptığımıza göre, dünyanın güvenlik için ne tür kısıtlamalara ihtiyacı olduğu hakkında çok düşündüm" gibi bir mesajla yayınlayabilirim. Seni imzacı olarak bırakmaktan mutluluk duyarım. Ayrıca, yayınladıktan sonra daha fazla insanın bunun arkasında durmaya istekli olacağını düşünüyorum.

Sam

Tüm Reklamları Kapat

Elon Musk, 24 Haziran 2015 saat 22:05'te buna da sadece 2 kelimeyle yanıt verdi: "Hepsine katılıyorum"

Kâr Amacı Güdülmeyecek! (8 Aralık 2015, 09:29, Elon Musk)

Aradan geçen aylarda yapılan toplantılar ve yazışmalar sonucunda OpenAI, artık duyurulmaya hazırdı. Ancak Elon Musk, kâr amacı gütmeyecek organizasyonun açılış bildirisinin Greg Brockman (OpenAI'nin kurucu ortaklarından ve bu yazının yazıldığı sıralarda şirketin başkanı olan Amerikalı girişimci, yatırımcı ve yazılım geliştiricisi) tarafından yeterince iyi anlatılamadığından yakınıyordu. Sam Altman'a şöyle yazıyor:

Açılış özeti bölümünü doğru yazmak çok önemli. Herkesin okuyacağı ve basının çoğunlukla alıntı yapacağı şey bu olacak. Bu açıklamanın tüm amacı, en iyi yetenekleri çekmek. Greg'in bunu tam olarak anladığından emin değilim.

---- OpenAI, kar amacı gütmeyen bir yapay zeka araştırma şirketidir ve dijital zekayı, finansal getiri sağlama yükümlülüğü olmaksızın, insanlığa bir bütün olarak fayda sağlama olasılığı en yüksek şekilde ilerletmeyi amaçlamaktadır.

Tüm Reklamları Kapat

Agora Bilim Pazarı

Yapı Statiği (Hibbeler)

• Boyut: 21,0*23,5
• Sayfa Sayısı: 702
• Basım: 9
• ISBN No: 9786053557777

Devamını Göster

₺640.00

Satın Al Tüm Ürünler

• Dış Sitelerde Paylaş

Şirketimizin temel felsefesi, yapay zeka teknolojisini tüm bireysel insan iradesinin bir uzantısı olarak mümkün olduğunca geniş bir alana yaymak, özgürlük ruhu içinde dijital zekanın gücünün aşırı yoğunlaşmamasını ve insanlığın toplamı tarafından arzulanan geleceğe doğru evrimleşmesini sağlamaktır.

Bu girişimin sonucu belirsiz; ve ödeyeceğimiz ücret diğerlerinin sunacaklarına kıyasla düşük. Ancak hedefin ve yapının doğru olduğuna inanıyoruz. Umarız bu alandaki en iyiler için en önemli şey budur.

Sam Altman, Musk'ın endişesini anlayarak, 10:34'te şöyle yazıyor:

Böyle nasıl?

__

OpenAI, kar amacı gütmeyen bir yapay zeka araştırma şirketidir ve dijital zekayı, finansal getiri sağlama yükümlülüğü olmaksızın, insanlığa bir bütün olarak fayda sağlama olasılığı en yüksek şekilde ilerletmeyi amaçlamaktadır.

Herhangi bir mali yükümlülüğümüz olmadığı için, maksimum olumlu insan etkisine ve yapay zeka teknolojisini olabildiğince geniş bir alana yaymaya odaklanabiliyoruz. Yapay zekanın bireysel insan iradesinin bir uzantısı olması ve özgürlük ruhu içinde birkaç kişinin elinde toplanmaması gerektiğine inanıyoruz.

Bu girişimin sonucu belirsiz, ve ücret de diğerlerinin sunacaklarına kıyasla düşük, ancak hedefin ve yapının doğru olduğuna inanıyoruz. Umarız bu alandaki en iyiler için en önemli şey budur.

Harika Bir Başlangıç (11 Aralık 2015, 16:41, Elon Musk)

Nihayet 11 Aralık 2015 saat 13:30'da OpenAI dünyaya ilan edildi ve muhteşem bir heyecan yarattı. Musk, o gün 16:41'te Ilya Sutskever, Pamela Vagata, Vicki Cheung, Diederik Kingma, Andrej Karpathy, John D. Schulman, Trevor Blackwell ve Greg Brockman'a, Sam Altman'ı da "cc"ye ekleyerek şu e-postayı gönderdi:

Harika bir başlangıç için tebrikler!

Tüm Reklamları Kapat

Sizin de iyi bildiğiniz kuruluşlar tarafından gülünç bir farkla sayıca ve silahça geride bırakılmış haldeyiz, ancak yanımızda "haklı olmak" var ve bu çok şey ifade ediyor. Şu anki ihtimalleri beğeniyorum.

En önemli düşüncemiz en iyi insanları işe almaktır. Herhangi bir şirketin çıktısı, içindeki insanların vektörel toplamıdır. Zaman içinde en yetenekli insanları çekebilirsek ve yönümüz doğru şekilde ayarlanırsa, OpenAI galip gelecektir.

Bu amaçla, lütfen kimin katılması gerektiği konusunda çok düşünün. İşe alım ya da başka bir konuda yardımcı olabileceksem, emrinize amadeyim. Henüz yüksek lisansını ya da lisansını tamamlamamış ama parlak oldukları belli olan kişilere çok dikkat etmenizi tavsiye ederim. Bir atılım gerçekleştirmeden önce bize katılmaları daha iyi olur.

Birlikte çalışmak için sabırsızlanıyorum,

Tüm Reklamları Kapat

Elon

Sonraki haftalar ve aylar, Elon Musk'ın da söylediği gibi en üst düzey dehaları OpenAI'a çekip organizasyonda tutmak için gerekli maaş, prim ve avans ödemelerinin nasıl olması gerektiğini belirlemekle geçti. Bu konuda çok sayıda e-posta atıldı; ancak bunları yazıyı çok da uzatmamak adına paylaşmayacağız. Eksiksiz bir listeyi buradan okuyabilirsiniz.

Ancak mesela Şubat 2016 tarihli bir e-posta alışverişinde Greg Brockman, Elon Musk ve Sam Altman'dan en iyi yapay zeka yeteneklerini ekiplerine çekmek için ücret stratejileri konusunda rehberlik istiyor. Brockman; Google, Facebook ve DeepMind gibi rakiplerden kazançlı teklifler alan Ian Goodfellow ve Andrew Tulloch gibi yüksek profilli adayları işe almanın zorluklarını vurguluyor. Mevcut ücretlendirme çerçevelerine bağlı kalmaları mı yoksa performansa dayalı ikramiyeler ve imza teşvikleri de dahil olmak üzere teklifleri rekabetçi piyasaya uyacak şekilde ayarlamaları mı gerektiğini sorguluyor. Elon Musk, DeepMind gibi rakiplere karşı rekabetçi kalabilmek için en iyi yetenekleri güvence altına almanın kritik bir ihtiyaç olduğunu vurgulayarak, gerektiğinde tazminatı artırmaya ve gerekirse mevcut çalışanların ücretlerini yeniden gözden geçirmeye istekli olduğunu ifade ederek yanıt veriyor. Tüm bunlar, OpenAI'ın en üst düzey yetenekleri kendisine çekmek için ne kadar çok harcamayı göze aldığını da gösteriyor.

Her Şey mi Açık Olacak? (21 Mart 2016, 12:53, Greg Brockman)

OpenAI, kısa sürede bütün gazetelerin ve habercilerin dikkatini çektiği için, röportajlar da birbirini kovaladı. Greg Brockman, aşağıdaki e-postada 2 soru hakkında Elon Musk'a danışıyor ve bu yazışma, şirketin geleceğiyle ilgili belirsizlikleri birazcık gösteriyor:

Merhaba Elon,

OpenAI ile ilgili bir Wired makalesi için röportaj yaptım ve doğruluk kontrolörü bana bazı sorular gönderdi. Söylediklerinizin makul/uyumlu olduğundan emin olmak için özellikle iki tanesini sizinle senkronize etmek istedim:

Soru 1: OpenAI olarak TÜM araştırmalarınızı ücretsiz dağıttığınızı söylemek doğru olur mu?

Herhangi bir anda, dünyaya en fazla fayda sağlaması muhtemel olan eylemi gerçekleştireceğiz. Kısa vadede en iyi yaklaşımın araştırmalarımızı paylaşmak olduğuna inanıyoruz. Ancak uzun vadede bu en iyi yaklaşım olmayabilir: örneğin, potansiyel olarak tehlikeli bir teknolojiyi hemen paylaşmamak daha iyi olabilir. Her durumda, tüm araştırmalarımızın tüm faydalarını dağıtacağız ve bunların herhangi bir kurumdan ziyade dünyaya tahakkuk etmesini istiyoruz.

Tüm Reklamları Kapat

Soru 2: OpenAI, mümkün olan en sofistike yapay zekayı mümkün olduğunca çok sayıda ele geçirmenin, insanlığın özel ellerde kötü niyetli amaçlar için kendini dünyaya salmanın bir yolunu bulabilecek çok akıllı bir yapay zekayı önlemek için en iyi şansı olduğuna inanıyor mu?

Yapay zekayı bireysel insan iradelerini genişletmek için kullanmanın, yapay zekanın faydalı kalmasını sağlamak için en umut verici yol olduğuna inanıyoruz. Bu cazip, çünkü aynı yeteneklere sahip çok sayıda ajan varsa, herhangi bir kötü aktörü kontrol altında tutabilirler. Ancak tüm cevaplara sahip olduğumuzu iddia etmiyorum: bunun yerine, hem bu cevapları arayabilecek hem de cevap ne olursa olsun mümkün olan en iyi eylemi gerçekleştirebilecek bir organizasyon inşa ediyoruz.

Teşekkürler!

- gdb

Tüm Reklamları Kapat

Musk, cevapları beğenmişe benziyor: Aynı gün 18:53'te "Gayet güzel." diye cevaplıyor.

Facebook'la Laf Dalaşı (27 Nisan 2016, 07:25, Sam Teller)

OpenAI'ın yarattığı sansasyon ve kısa sürede elde ettiği başarı, endüstri devlerinin de dikkatini (ve rahatsızlığını) üzerine çekmeye başladı. Şirket çalışanlarından Sam Teller, The New York Times gazetesi yazarlarından Alex Thompson'dan, Elon Musk'a iletilmesi amacıyla aldığı bir e-postayı Musk'a iletiyor:

Merhaba Sam,

Umarım harika bir gün geçiriyorsunuzdur ve başka bir soruyla böldüğüm için özür dilerim. Maureen, Bay Musk'ın, Bay Zuckerberg'in röportajlarından bu yana kamuoyuna yaptığı bazı yorumlara herhangi bir tepkisi olup olmadığını öğrenmek istedi. Özellikle de Bay Musk'ı yapay zeka korkuları nedeniyle "histerik" olarak nitelendirmesi ve yapay zekanın tehlikeleri konusunda "korku tacirliği" yapanlara ders vermesi... Bay Zuckerberg'in yorumlarının daha fazla detayına aşağıda yer verdim.

Tüm Reklamları Kapat

Geçtiğimiz günlerde Almanya'da Musk'ın önsezileri sorulduğunda Zuckerberg bunları "histerik" olarak nitelendirdi ve "alanındaki en iyi dermatoloğun" doğruluk oranıya cep telefonundan cilt lezyonları için kanser teşhisi koyabileceğini iddia ettiği bir sistem de dahil olmak üzere yapay zeka buluşlarını övdü.

"Bir şeyleri gerçekten berbat etmediğimiz sürece," dedi, makineler her zaman itaatkâr olacak, "insanüstü" değil.

"Bence yapay zekayı bizim için çalışacak ve bize yardımcı olacak şekilde inşa edebiliriz... Bazı insanlar yapay zekanın ne kadar büyük bir tehlike olduğu konusunda korku tellallığı yapıyor, ancak bu bana çok uzak ve yaygın hastalık, şiddet vb. felaketlerden çok daha az olası görünüyor. Ya da Nisan ayındaki Facebook geliştiriciler konferansında felsefesini ortaya koyduğu gibi: "Korku yerine umudu seçin."

--

Tüm Reklamları Kapat

Alex Thompson

The New York Times

Muk'ın 12:24'te attığı cevap şöyle:

Tarih, her güçlü teknolojinin iki ucu keskin bir kılıç olduğunu açıkça göstermektedir. Tüm teknolojiler arasında tartışmasız en güçlüsü olan yapay zekanın sadece tek bir keskin ucu olduğunu varsaymak aptallık olur.

Tüm Reklamları Kapat

Microsoft'un yapay zekalı sohbet robotu örneği, bunun ne kadar hızlı bir şekilde inanılmaz derecede olumsuza dönüşebileceğini gösteriyor. Akıllıca hareket tarzı, yapay zekanın ortaya çıkışına dikkatle yaklaşmak ve gücünün geniş çapta dağıtılmasını ve herhangi bir şirket veya kişi tarafından kontrol edilmemesini sağlamaktır.

OpenAI'ı işte bu yüzden yarattık.

Microsoft'la Dans (16-21 Eylül 2016)

Eylül 2016'daki bir dizi e-posta alışverişinde Sam Altman, Elon Musk'ı Microsoft ile önerilen bir "barındırma (hosting) anlaşması" hakkında bilgilendirdi. Bu anlaşma kapsamında OpenAI, 10 milyon dolarlık indirimli bir fiyat karşılığında 60 milyon dolar değerinde Azure bilgi işlem kaynağı alacaktı. Bunun karşılığında OpenAI; CNTK, Azure Batch ve HD-Insight gibi Microsoft teknolojileri hakkında geribildirim sağlayacak ve bu teknolojileri tanıtacaktı.

Altman, Microsoft'un Azure'un yeteneklerinin ortak pazarlama ve tanıtımına yönelik beklentileri olduğunu ve Musk'ın bunu hoş bulmadığını paylaştı. Musk'ın ilk tepkisi eleştirel oldu; anlaşmanın mide bulandırıcı olduğunu ifade etti ve özellikle de pazarlama koşulları nedeniyle Microsoft'un "tipik yaklaşımı" olarak değerlendirdi. "Bu berbat bir şey ve tam da onlardan beklediğim şey!" diyerek OpenAI'nin Microsoft'un promosyon taleplerine boyun eğmesi fikrinden duyduğu hoşnutsuzluğu vurguladı.

Altman, Musk'ın önerilen evangelizm koşullarından duyduğu rahatsızlığı paylaştı ve Microsoft'un bazı koşulları düşürmeyi çoktan kabul ettiğini belirtti. Başlangıçta OpenAI, Microsoft'tan yedek bilgi işlem kaynakları istemiş ancak öngörülebilir erişimi güvence altına almak için ek şartlar eklemişti. Musk, daha minimalist, taahhütsüz bir kurulum için bastırdı ve OpenAI'ın gerektiğinde anlaşmadan ayrılma özgürlüğünü tamamen elinde tutması gerektiğini vurguladı. Microsoft'un resmi bir anlaşmaya gerek kalmadan yedek kapasiteyi kullanıma sunabileceğini öne süren Musk, şöyle diyor:

Bunu gösterişsiz bir şekilde yapmalıyız. Her iki şekilde de kesinlik yok. Sözleşme yok.

20 Eylül'de Sam Teller, Musk'ı Microsoft'un anlaşmayı önemli ölçüde revize ettiği konusunda bilgilendirdi. Microsoft, OpenAI'ın tam takdir yetkisine sahip olacağını ve herhangi bir tanıtım şartı olmaksızın anlaşmayı istediği zaman feshetme hakkına sahip olacağını belirterek, asgari yükümlülüklerle 50 milyon dolar değerinde bilgi işlem kaynağı teklif etti. Musk, bu anlaşmayı onayladı; ancak marka imajıyla ilgili endişelerini yineledi:

Bunu aktif reklamlarında kullanmazlarsa benim için sorun yok. Microsoft'un pazarlama kaltağı gibi görünmemek 50 milyon dolardan çok daha değerli olurdu.

Dağılmanın Başlangıcı (28 Ağustos 2017, 00:01, Shivon Zilis)

Kanadalı teknoloji yöneticisi ve risk sermayedarı Shivon Zilis, Sam Teller'ı da eklediği bir e-postada Elon Musk'a şunları yazıyor:

Elon,

Tüm Reklamları Kapat

Daha önce de belirttiğim gibi, Greg bu hafta sonu birkaç konu üzerinde konuşmak istedi. Ilya da katıldı ve hala düşünmeye çalıştıkları her şeyi hemen hemen paylaştılar. Bu, o rastgele sohbetin damıtılmış hali... Aşağıda yorumlarıyla birlikte 7 cevapsız soruya indi. Lütfen bunların hiçbirini savunmadığımı, sadece duyduğum bilgileri yapılandırdığımı ve paylaştığımı unutmayın.

1. Kısa vadeli kontrol yapısı? Mutlak kontrol gerekliliği var mı? Herkesin aynı fikirde olmaması halinde (sadece üçünün değil, belki daha geniş bir kurulun) bir tür yaratıcı geçersiz kılma hükmünün olabileceği bir senaryo olup olmadığını merak ediyorlar.

2. Kontrol ve geçiş süresi? *Pazarlık konusu olmayan şey, yapay genel zekaya ulaşılması halinde herhangi bir kişinin mutlak kontrole sahip olmamasına yönelik kesin bir anlaşma gibi görünüyor. Bunu sağlamak, üçüne ne olursa olsun, 2-3 yıllık başlangıç döneminden sonra şirket üzerindeki gücün dağıtılmasının garanti edildiği bir durum anlamına gelir.

3. Harcanan zaman? Elon bu iş için ne kadar zaman harcamak istiyor ve bu iş için gerçekten ne kadar zaman ayırabilir? Hangi zaman diliminde? Bu haftada bir saat mi, on saat mi, yoksa ikisi arasında bir şey mi?

Tüm Reklamları Kapat

4. Harcanan zaman ile ne yapmalı? Diğer şirketlerinde nasıl zaman geçirmeyi tercih ettiğini ve bu işe nasıl zaman ayırmak istediğini bilmiyorlar. Greg ve Ilya, işin SW / ML tarafını oldukça iyi bir şekilde inşa edebileceklerinden eminler. Donanım konusunda kendilerine güvenmiyorlar. Zayıf oldukları alan bu olduğu için Elon'un bu konuda biraz zaman harcayabileceğini umuyor gibiydiler, ancak ilgilendiği tüm alanlarda yardımını istiyorlardı.

5. Harcanan zamanın kontrol miktarına oranı? Daha az zaman/daha az kontrol, daha fazla zaman/daha fazla kontrol konusunda rahatlar, ancak daha az zaman/daha fazla kontrol konusunda değil. Korkuları, çok az zaman harcanırsa doğru kararlar almak için ilgili bağlamsal bilgileri tartışmak için yeterli zaman olmayacağıdır.

6. Hisse paylaşımı? Greg hala içgüdüsel olarak eşit paylaşıma bağlıydı. Ben şahsen bu içgüdü konusunda ona katılmıyorum ve o da zihinsel modelini yeniden ayarlamak için kullanabileceği başka şeyler duymak istedi ve buna açıktı. Greg, Ilya'nın Google'daki kazanç potansiyelini masada bırakarak bazı açılardan milyonlara katkıda bulunduğunu belirtti. Endişelerinden biri de önerilen çalışan havuzunun çok küçük olmasıydı.

7. Kapitalizasyon stratejisi? İçgüdüleri başlangıçta 100 milyon dolardan çok daha fazlasını toplamak yönünde. İhtiyaç duydukları veri merkezinin tek başına bu maliyete mal olacağını düşünüyorlar, bu nedenle daha fazla para toplamak konusunda kendilerini daha rahat hissediyorlar.

Tüm Reklamları Kapat

Çıkarımlar:

Bunlardan herhangi birinin uygun olup olmadığından emin değilim, ancak sadece ortaya attıkları tüm veri noktalarını dinlediğimde, aşağıdakiler mevcut yapışkan noktalarını tatmin edecektir:

-Tam kontrole yakın bir şekilde haftada 5-10 saat harcamak veya daha az zaman harcayıp daha az kontrole sahip olmak.

-Sadece Greg / Sam / Ilya'ya ait olmayan uç senaryolar için yaratıcı bir kısa vadeli geçersiz kılma.

Tüm Reklamları Kapat

-Greg / Sam / Ilya'nın kaderi ne olursa olsun, 2-3 yıllık demir gibi sağlam bir azınlık kontrol anlaşması.

-200 milyon dolar ile 1 milyar dolar arasında ilk fonlama.

-Greg ve Ilya'nın hisseleri Elon'ınkinin 1/10'undan daha yüksek ancak önemli ölçüde değil (bu en belirsiz olanı olmaya devam ediyor).

-Çalışan havuzunun artırılması.

Tüm Reklamları Kapat

Bu, çöküşün başlangıcı olacaktı. Elon Musk, 00:08'de şöyle cevaplıyor:

Bu çok can sıkıcı. Lütfen onları başka bir şirket kurmaya teşvik edin. Artık bıktım.

İpler Kopuyor! (20 Eylül 2017, 14:08, Ilya Sutskever)

Bu noktadan sonra işler, ekip için iyi gitmeyecekti. Kanadalı-İrailli-Rus bilgisayar bilimcisi ve makine öğrenmesi uzmanı Ilya Sutskever, Sam Altman ve Elon Musk'a şu e-postayı attı:

Elon, Sam,

Bu süreç Greg ve benim katıldığımız en yüksek riskli konuşma oldu ve eğer proje başarılı olursa, dünyanın gördüğü en yüksek riskli konuşma olduğu ortaya çıkacak. Bu aynı zamanda hepimiz için son derece kişisel bir konuşma oldu.

Tüm Reklamları Kapat

Dün, talep etmeme anlaşması çerçevesinde nihai taahhüdümüzü vermeyi düşünürken bir hata yaptığımızı fark ettik. İkinize de dile getirmediğimiz birkaç önemli endişemiz var. Onları korktuğumuz için söylemedik: ilişkimize zarar vermekten, hakkımızda daha kötü düşünmenizden veya sizi ortak olarak kaybetmekten korktuk.

Endişelerimizin çözülemez olduğunun ortaya çıkma ihtimali var. Gerçekten böyle olmamasını umuyoruz, ancak bunları şimdi tartışmazsak kesinlikle başarısız olacağımızı biliyoruz. Bunları aşabileceğimize ve hep birlikte çalışmaya devam edebileceğimize dair umudumuz var.

Elon:

Seninle çalışmayı gerçekten istiyoruz. Güçlerimizi birleştirirsek, görevde başarı şansımızın en yüksek olacağına inanıyoruz. Bizim potansiyelimiz çok yüksek. Bu konuda hiç şüphe yok. Seninle çalışma arzumuz o kadar büyük ki, seninle çalışmak için ne gerekiyorsa, özkaynaktan, kişisel kontrolden vazgeçmekten, kendimizi kolayca kovulabilir hale getirmekten mutluluk duyuyoruz.

Tüm Reklamları Kapat

Ancak kontrolün dünya üzerindeki etkilerini düşünürken dikkatsiz davrandığımızı fark ettik. Çok kibirli göründüğü için, başarının sonuçlarını ciddi bir şekilde düşünmedik.

Mevcut yapı sana yapay genel üzerinde tek taraflı mutlak kontrole sahip olacağın bir yol sunuyor. Nihai yapay genel zekayı kontrol etmek istemediğini belirttin, ancak bu müzakere sırasında bize mutlak kontrolün senin için son derece önemli olduğunu da gösterdin.

Örnek olarak, CEO olmaktan nefret ettiğini ve CEO olmamayı tercih ettiğini belirtmene rağmen, yeni şirketin CEO'su olman gerektiğini, böylece herkesin sorumlu kişinin sen olduğunu bileceğini söyledin.

Bu nedenle, şirket yapay genel zeka yolunda gerçek anlamda ilerleme kaydettikçe, mevcut niyetinin aksine şirket üzerindeki mutlak kontrolünü sürdürmeyi tercih edeceğinden endişe duyuyoruz. Ayrılma kabiliyetimizin en büyük gücümüz olduğu yönündeki ifadene katılmıyoruz, çünkü şirket gerçekten yapay genel zeka yolunda ilerlediğinde, şirket herhangi bir bireyden çok daha önemli olacaktır.

Tüm Reklamları Kapat

OpenAI'nin amacı geleceği iyi kılmak ve bir yapay genel zeka diktatörlüğünden kaçınmaktır. Demis'in bir yapay genel zeka diktatörlüğü yaratabileceğinden endişe ediyorsun. Biz de öyle. Dolayısıyla, eğer isterseniz diktatör olabileceğin bir yapı oluşturmak kötü bir fikir, özellikle de bu olasılığı ortadan kaldıran başka bir yapı oluşturabileceğimiz düşünüldüğünde.

Birkaç küçük endişemiz daha var, ancak burada belirtmenin faydalı olacağını düşünüyoruz:

Cerebras'ı satın almaya karar vermemiz durumunda, güçlü hislerim bunun Tesla aracılığıyla yapılacağı yönünde. Ancak bunu OpenAI içinden de yapabilecekken neden bu şekilde yapalım? Özellikle, Tesla'nın hissedarlara karşı hissedar getirisini en üst düzeye çıkarma görevi olduğu ve bunun OpenAI'nin misyonuyla uyumlu olmadığı endişesi var. Dolayısıyla genel sonuç OpenAI için optimal olmayabilir.

Kâr amacı gütmeyen OpenAI'ın hem sen hem de Sam içinde olduğunuz için başarılı olduğuna inanıyoruz. Sam sana karşı gerçek bir denge unsuru olarak hareket etti ve bu da son derece verimli oldu. Greg ve ben, en azından şu ana kadar, sana karşı denge unsuru olma konusunda çok daha kötüyüz. Bu durumun, uzun vadeli yapay genel zeka kontrolüne ilişkin soruları halının altına süpürmeye hazır olduğumuz ve Sam'in tavrını koruduğu bu müzakerede bile kanıtlandığını düşünüyoruz.

Tüm Reklamları Kapat

Sam:

Greg ve ben sıkıştığımızda, her zaman derin ve doğru olduğu ortaya çıkan bir cevabın oldu. Bu sorun üzerinde ileriye dönük yolları son derece derinlemesine ve kapsamlı bir şekilde düşünüyorsun. Greg ve ben teknik uygulamayı anlıyoruz, ancak yapı kararlarının önümüzdeki ay, yıl veya beş yıl içinde nasıl sonuçlanacağını bilmiyoruz.

Ancak bu süreç boyunca kararlarına tam olarak güvenemedik, çünkü maliyet fonksiyonunu anlamıyoruz.

CEO unvanının senin için neden bu kadar önemli olduğunu anlamıyoruz. Belirttiğin nedenler sürekli değişiyor ve bunu neyin tetiklediğini gerçekten anlamak zor.

Tüm Reklamları Kapat

Yapay genel zeka gerçekten birincil motivasyonun mu? Siyasi hedeflerinle nasıl bir bağlantısı var? Düşünce sürecin zaman içinde nasıl değişti?

Greg ve Ilya:

Bu müzakere sırasında kendi başarısızlıklarımızdan adil bir pay aldık ve bunlardan bazılarını burada listeleyeceğiz (Elon ve Sam, eminim ekleyecek çok şeyiniz vardır...):

Bu müzakere sırasında, 2-3 yıl sonraki finansal getiri fikrinin kararlarımızı yönlendirmesine izin verdiğimizi fark ettik. Bu yüzden kontrolü zorlamadık - öz sermayemizin yeterince iyi olduğunu düşündük, o halde neden endişelenelim? Ancak bu tutum yanlıştır, tıpkı yapay zeka güvenliğinin bir sorun olduğunu düşünmeyen yapay zeka uzmanlarının tutumu gibi, çünkü yapay zekayı inşa edeceklerine gerçekten inanmıyorlar.

Tüm Reklamları Kapat

Müzakere sırasında tüm gerçeklerimizi söylemedik. Mazeretlerimiz var, ancak bu sürece zarar verdi ve sonuç olarak hem Sam'i hem de Elon'u kaybedebiliriz. 

Burada yeterince yük var ve bir araya gelip konuşmamızın çok önemli olduğunu düşünüyoruz. Bunu yapmazsak işbirliğimiz başarılı olmaz. Dördümüz bugün buluşabilir miyiz? Hepimiz doğruyu söyler ve sorunları çözersek, yaratacağımız şirketin karşılaşacağı çok güçlü kuvvetlere dayanma olasılığı çok daha yüksek olacaktır.

Greg & Ilya

Bu e-posta, Musk için bardağı taşıran son damlaydı. Aynı gün, 14:17'de şöyle bir cevap yazdı:

Beyler, yeter artık. Bu bardağı taşıran son damla. Ya kendi başınıza bir şeyler yapın ya da kar amacı gütmeyen bir kuruluş olarak OpenAI ile devam edin. Kalmak için kesin bir taahhütte bulunana kadar OpenAI'yi artık finanse etmeyeceğim ya da bir startup oluşturmanız için size ücretsiz fon sağlayan bir aptal olacağım. Tartışmalar sona erdi

1 saat kadar sonra, 15:08'de ipleri daha da koparan bir e-posta daha gönderdi:

Şunu netleştireyim: Bu, daha önce görüşülenleri kabul etmeye yönelik bir ültimatom değildir. Onlar artık masada değil.

Sam Altman ise ertesi gün, 09:17'de kısa bir cevap yazdı:

Kar amacı gütmeyen yapı konusunda heyecanım devam edi̇yor!

Eylül 2017'deki bir e-posta alışverişinde Shivon Zilis, Elon Musk'ı OpenAI'ın organizasyon yapısını çevreleyen iç dinamikler, özellikle de Greg Brockman ve Ilya Sutskever'in bağlılık güvenceleri sağlama koşuluyla kar amacı gütmeyen modeli sürdürme tercihi konusunda bilgilendirdi. Sam Altman ise karışık duygular içinde olduğunu ifade ederek, kar amacı gütmeyen kuruluşa desteğinin devam edeceğini kabul etti; ancak tutarsız ve bazen de olgunlaşmamış iletişim olarak tanımladığı durum nedeniyle Greg ve Ilya'ya olan güvenini kaybettiğini itiraf etti. Altman, onlara ne kadar güvenebileceğini ve işin içinde kalmak isteyip istemediğini düşünmek için 10 günlük bir ara vermeye karar verdi.

Bu sırada bağış toplama olasılıkları tartışıldı. Greg ve Ilya yüz milyonlarca bağış toplama konusunda iyimserken, Altman daha muhafazakârdı, on milyonlar üzerinde spekülasyon yaptı ve bir bağışçının kâr amacı gütmeyen statüyle ilgilenmeye devam etmesi halinde potansiyel bir 100 milyon dolardan bahsetti. Altman ayrıca bu konuların tüm ekibe kapsamlı bir şekilde iletilmesinin dikkat dağıtıcı olduğunu düşündüğü için hayal kırıklığına uğradı, ancak kar amacı gütmeyen geçişin durdurulmasıyla rahatladı ve ekibin işlerine yeniden odaklanmasına izin verdi.

Sonrasında Yaşananlar

Bundan sonra yaşanlar, artık sonun başlangıcı gibiydi.

21 Ocak 2018 tarihinde Sam Altman, Elon Musk ve diğerlerine OpenAI güvenlik ekibinin gelecekte ortaya çıkabilecek istenmeyen etkiler nedeniyle İlk Para Arzına (ICO) devam etme konusunda önemli endişeleri olduğunu bildirdi. Tüm paydaşların erken katılımının önemini vurgulayarak, girdi elde etmek ve gizliliği vurgulamak için bu endişeleri tüm ekiple tartışmayı planladı.

Elon Musk, Sam'in ekibi ICO endişeleriyle ilgili tartışmaya dahil etme planına katıldığını belirterek, bu davete olumlu yanıt verdi.

31 Ocak 2018 tarihinde Andrej Karpathy, Elon Musk ile ICLR konferansına yapılan akademik makale başvurularına dayanarak Google'ın yapay zeka araştırmalarındaki hakimiyeti hakkında görüşlerini paylaştı. O noktada Google, 83 akademik makale ile önde gelen akademik kurumları geride bırakarak liderliği ele geçirmişti. Andrej, bunun yapay zeka araştırmalarındaki mevcut manzaranın bir göstergesi olduğunu vurguladı.

Elon, Andrej'in e-postasını önde gelen OpenAI liderlerine ileterek, OpenAI'ın Google ile rekabet etme kabiliyetine ilişkin ciddi endişelerini dile getirdi. OpenAI'nin güvenilirliğine zarar vereceğinden korktuğu ICO fikrini eleştirdi. Elon, şöyle yazarak, önemli değişiklikler yapılmadığı takdirde ayrılmakla tehdit etti:

OpenAI, Google'a kıyasla kesin bir başarısızlık yolunda ilerliyor. Açıkçası acil ve dramatik bir eylem gerekiyor, yoksa Google dışındaki herkes konu-dışı kalmaya mahkum olacak.

ICO yaklaşımını değerlendirdim ve bunu desteklemeyeceğim. Bana göre bu, OpenAI ve ICO ile ilişkili herkes için büyük bir güvenilirlik kaybına yol açacaktır. Eğer bir şey gerçek olamayacak kadar iyi görünüyorsa, öyledir. Bana göre bu, akılsızca bir saptırmaydı.

Aklıma gelen tek yol OpenAI'ın büyük ölçüde genişletilmesi veya Tesla AI'ın büyük ölçüde genişletilmesi. Belki ikisi de aynı anda olabilir. İlki, bağışlanan fonlarda büyük bir artış ve son derece güvenilir kişilerin yönetim kurulumuza katılmasını gerektirecektir. Mevcut yönetim kurulu durumu çok zayıf.

Tüm Reklamları Kapat

Yarın konuşmak için bir zaman ayarlayacağım. Açık olmak gerekirse, yeteneklerinize ve başarılarınıza büyük saygı duyuyorum, ancak işlerin yönetilme şeklinden memnun değilim. Bu yüzden son aylarda OpenAI ile etkileşim kurmakta zorlanıyorum. Ya işleri düzeltiriz ve katılımım çok artar, ya da düzeltemeyiz ve ben de sıfıra yakın bir seviyeye düşer ve elibolluğumu alenen azaltırım. Etkimin ve zamanımın algısının gerçekle uyuşmadığı bir durumda olmayacağım.

Bundan sonra Elon, Andrej'in durum hakkındaki görüşünü sordu. Andrej, Google'ın seviyesinde rekabet etmek için gereken muazzam kaynakları vurgulayarak OpenAI'ın tek başına sürdürülebilir olmayabileceğini öne sürdü. OpenAI'ın kaynaklarından yararlanmak için Tesla ile yakın işbirliği yapmasını önerdi ve bunun Google gibi endüstri devleriyle rekabet etmek için tek geçerli yol olduğunu öne sürdü. Musk, buna cevaben şöyle yazıyor:

Aksini dileyebiliriz, ancak benim ve Andrej'in görüşüne göre Tesla, Google'ın eline su dökmeyi umut edebileceğimiz tek yol. O zaman bile, Google'a karşı bir dengeleyici rolde olma olasılığı küçüktür. Ama sıfır değil.

Bu, Musk'ın OpenAI'ın Google ile rekabet etme şansının "sıfır" olduğunu düşündüğünü gösteriyor.

25 Mart 2018'de Shivon Zilis, Elon'u çeşitli konularda bilgilendirdi. OpenAI'nin ICO planını, yapay genel zekaya ulaşılması halinde büyük şirketlerin 50x ile sınırlandırılmış getirilerle yatırım yapmalarına olanak tanıyan sınırlı getirili bir yatırım modeli lehine terk ettiğini belirtti. Shivon, Elon'a OpenAI yönetim kurulundan resmen istifa etmesini hatırlattı ve kendisinin olası katılımı ve Adam D'Angelo'nun eklenmesi de dahil olmak üzere yönetim kurulu kompozisyonundaki potansiyel değişiklikleri tartıştı.

2 Nisan 2018'de Sam Altman, OpenAI Tüzüğü'nün taslağını kamuoyuna açıklanmadan önce geri bildirim için Elon ile paylaştı. Tüzük, OpenAI'ın misyonunu ve ilkelerini özetliyor, yapay genel zekanın tüm insanlık için güvenli ve faydalı bir şekilde geliştirilmesini vurguluyordu. Elon, yine kısa ve öz bir yanıt verdi: "Kulağa hoş geliyor."

23 Nisan 2018'e gelindiğinde Shivon, Elon'a OpenAI'ın ICO olmadan ilerlediğini ve sınırlandırılmış getirilerle öz sermaye yatırımlarını güvence altına aldığını bildirdi. Özellikle OpenAI'nin Dota 5v5 projesinde beklentileri aşan ve yapay genel zeka zaman çizelgesi tahminlerinde dahili değişimlere neden olan teknik gelişmelerden bahsetti. Shivon ayrıca odağını OpenAI'dan Neuralink ve Tesla'ya kaydırdığını ve Elon'un OpenAI yönetim kurulundan ayrılmasının ardından önceliklerinde bir değişiklik olduğunu belirtti.

6 Mart 2019'da Sam Altman, Elon'ı önemli organizasyonel değişiklikler konusunda bilgilendirdi. OpenAI, misyonlarıyla uyumlu hale gelirken bilgi işlem kaynaklarına ve yeteneklere daha fazla yatırım yapılmasına olanak tanıyan yeni bir "kar sınırlamalı" şirket yapısı oluşturmuştu. Sam, CEO oldu ve Greg Brockman bu yeni kuruluşun başkanlığına atandı. Sam, Elon'dan bir duyuru taslağı üzerinde görüş istedi ve milyarlarca dolarlık önemli bir yatırımla ilgili tartışmalardan bahsederek Elon'ın tavsiyesini talep etti.

Elon, bu gelişmelerden hiç memnun değildi. 11 Mart 2019'da, OpenAI'nin kâr amacı güden yeni kolu hakkında basında çıkan haberlerin ardından Elon, Sam'e bir e-posta göndererek OpenAI'nin kâr amacı güden girişimlerinde hiçbir mali çıkarı olmadığına dair açık bir açıklama talep etti. Sam talebi hemen kabul etti.

Sonuç

Bu yazışmalar boyunca, Elon Musk ve OpenAI'ın liderliği arasındaki görüş farklılıklarının gelişimi çok net bir şekilde gözüküyor. Başlangıçta OpenAI'ın stratejik kararlarına dahil olan ve bu konuda endişe duyan Musk, yönetimden memnuniyetsizliğini ve ICO ve organizasyonel yön gibi kilit konularda uyum eksikliğini tekrar tekrar vurguluyor. Tabii ki diğerlerinin yazdıklarından, Musk'ın da eleştirdiği Altman kadar kontrolcü bir yapıya sahip olduğu anlaşılıyor; bunların Musk tarafından yayınlanan, taraflı olabilecek bir seçki olduğu da hatırlanmalı.

Yine de bu davalar, çağımızın en önemli kuruluşlarından birinin nasıl doğduğu, nasıl geliştiği ve ne tür çatışmalardan geçerek yoluna devam ettiği konusunda bize önemli bilgiler veriyor. Geleceğin ne getireceğini bekleyip göreceğiz.