İngilizce açılımı ”Generative Pre-Trained Transformer-3” olan ve Türkçe’de ise ”Üretken Önceden Eğitilmiş Dönüştürücü-3” anlamına gelen GPT-3, derin öğrenme kullanan öz bağlanımlı bir dil modelidir. Önceden öğretilmiş dil örnekleriyle birlikte doğal dil işleme (NLP) sisteminden yararlanan bu yeni teknolojinin ilk tanıtımı 14 Mayıs 2020’de OpenAI tarafından yapılmıştır.
OpenAI?
Yapay zekayı (AI) insanlığa faydalı olacak şekilde geliştirmeyi ve yönlendirmeyi amaçlayan, kar amacı gütmeyen bir araştırma şirketidir. 2015 yılında Elon Musk ve Sam Altman öncülüğünde kurulmuş olan şirket şuanda merkezi San Francisco, California olan bir ofisi, yine Elon Musk tarafından kurulan Neurolink şirketi ile paylaşmaktadır. OpenAI şirketi 1 milyar dolarlık bir bağış ile kurulmuş ve sonrasında da çeşitli yatırımlar almıştır.
2018 Şubat ayında Elon Musk, bu şirketin Nikola Tesla’dan ilham alarak kurduğu elektirikli araç tasarımı üzerine çalışan Tesla isimli şirketi için yapay zeka geliştirilmesine katkı sağlamamasından dolayı gelecekte oluşabilecek anlaşmazlıkları önlemek amacıyla OpenAI şirketinin yönetim kurulundan istifa etti. Fakat şirkete bağış yapmayı sürdürdü.
OpenAI şirketinin ilk GPT modeli Alec Radford, Karthik Narasimhan, Tim Salimans ve Ilya Sutskever tarafından yazılan “Improving Language Understanding by Generative Pre-training (Üretici Ön Eğitimle Dil Anlayışını İyileştirmek)” başlıklı makale ile gündeme geldi.
GPT-3 Neler Yapabiliyor?
İnsan dillerini taklit edebilme yeteneğine sahip günümüzdeki en gelişmiş dil modeli olan GPT-3; sorulara cevap verebiliyor, tercüme yapabiliyor ve hatta şiir bile yazabiliyor.
GPT-3’ün API’ına yani makine öğrenimi araç setine sahip olan kişiler şimdiden hayatımızı kolaylaştırabilecek çalışmalar geliştirdiler. Yapay zeka ile birlikte yapabileceklerimizden bahsedecek olursak:
- GPT-3 ile Twitter’da tweet atabileceğiniz ya da başka sosyal medya hesaplarında da paylaşabileceğiniz güzel sözler oluşturabilirsiniz.
- Yazılım alanı ile ilgileniyorsanız ne yapacağınızı tarif ederek bu yapay zekadan Java Script kodunuzu elde edebilirsiniz. Ayrıca başka bir siteden bulduğunuz kodun da ne olduğunu öğrenebilirsiniz.
- Herhangi bir yazar veya şairin eserinden birkaç cümle vererek bu eseri tamamlatabilirsiniz. Üstelik yapay zeka bu eserin kime ait olduğunu bulabilir ve onu taklit ederek verilen eseri tamamlayabilir.
- Yapay zekaya ünlü biri olmasını (Örneğin Einstein vb.) söyleyerek bu ünlü kişi ile yapay bir röportaj yapmasını isteyebilirsiniz.
- Bir web sitesi ya da uygulama tasarımı yapacaksanız istediğiniz stili anlatarak bu tasarımı yaptırabilirsiniz.
- Girilen herhangi bir bilgi ya da veri ile grafik oluşturabilirsiniz.
- Sanal bir öğretmen belirleyerek (Örneğin Elon Musk vb.) ve onun uzman olduğu alanda sorular yönelterek bilgi alabilirsiniz.
- Belirlediğiniz bir konuda sınav hazırlatabilir ve bu sınavın değerlendirilmesini yapmasını da sağlayabilirsiniz.
- Reklam metni yazdırabilirsiniz.
GPT-3′ ün Kapasitesi Ne Kadar?
GPT-3’ün kendisini eğitmek için kullandığı kaynakların çeşitliliği çok fazla olduğundan dolayı şuan sahip olduğu yetkinliklerinin de giderek artacağı kaçınılmazdır. OpenAI şirketi bu yapay zekanın bilgi hazinesini oluşturmak için ona tüm ansiklopedileri, şu ana kadar yazılmış olan tüm kitapları ve internette var olan tüm yazılı metinleri okutmuştur. Bu da Wikipedia gibi geniş bir ansiklopedi ve Wikipedia’nın 23 katı kadar bilgiye sahip olmak anlamına gelmektedir. (Yazılım dilinde 410 milyar token değerine denktir.)
Ayrıca bu yapay zekanın öğrenme ve öğrendiği bilgileri işleme hızı da oldukça yüksek bir seviyededir. (175 milyar hiper parametre içermektedir.) Kendisinden önce geliştirilen son yapay zekanın (Turing NLG) sahip olduğu kapasitenin 10 katından fazla kapasiteye sahiptir. OpenAI tarafından geliştirilen bu yeni teknolojinin maliyeti ise 4.6 milyon dolara karşılık gelmiştir. Şimdilik insanlığın yapay zeka alanında gelmiş olduğu son nokta olarak görülen GPT-3 ve diğer büyük şirketlerin yapay zeka alanındaki projeleri üzerinde çalışmalar hala devam etmektedir.
Teknoloji kategorisindeki diğer makaleleri da okumanızı tavsiye ederiz!
