OpenAI, artık üçüncü taraf geliştiricilerin ChatGPT’yi uygulamalarına ve hizmetlerine bir API aracılığıyla entegre etmesine izin verdiğini ve bunu yapmanın mevcut dil modellerini kullanmaktan önemli ölçüde daha ucuz olacağını duyurdu . Şirket, AI destekli konuşmadan metne modeli Whisper’ı bir API aracılığıyla kullanıma sunuyor ve geliştirici hizmet şartlarında bazı önemli değişiklikler yapıyor.

OpenAI, ChatGPT API’sinin yalnızca AI destekli bir sohbet arayüzü oluşturmaktan daha fazlası için kullanılabileceğini söylüyor – ancak aynı zamanda Snap’in bu hafta başlarında duyurulan My AI özelliği de dahil olmak üzere onu bu amaçla kullanan birkaç şirketi vurguluyor. Şirket, gpt-3.5-turbo adlı yeni model ailesinin “sohbet dışı birçok kullanım durumu için en iyi model” olduğunu söylüyor.

Modelin, Microsoft’un ChatGPT ve GPT’den “daha hızlı, daha doğru ve daha yetenekli” “yeni, yeni nesil OpenAI büyük dil modeli” olarak adlandırdığı Bing’in kullandığı modelle muhtemelen aynı olmadığını belirtmekte fayda var. 3.5. Bununla birlikte, şirketin OpenAI’ye ne kadar yatırım yaptığı göz önüne alındığında, ortalama bir geliştiricinin erişemeyeceği teknolojiye erişimi olması şaşırtıcı değil. Microsoft ayrıca Bing için kendi teknolojisinden sağlıklı bir doz kullanıyor .

OpenAI, 0,002 ABD Doları karşılığında 1.000 jeton sunuyor ve bunun kısmen “sistem çapında bir dizi optimizasyon” sayesinde “mevcut GPT-3.5 modellerimizden 10 kat daha ucuz” olduğunu söylüyor. 1.000 çok gibi görünse de, API’nin yanıt vermesi için bir metin snippet’i göndermenin birkaç jetona mal olabileceğini belirtmekte fayda var. (“Belirteçler”, sistemin daha sonra hangi metni çıkarması gerektiğini tahmin etmek için cümleleri ve sözcükleri böldüğü metin bloklarıdır.)

OpenAI belgelerine göre “ChatGPT harika!” altı belirteç alır — API’si onu “Chat”, “G”, “PT”, “is”, “harika” ve “!” olarak ayırır. Şirket, bir metin dizesini yorumlamak için kaç belirteç gerektiğini kontrol etmek için bir araç sağlıyor ve genel bir kuralın İngilizce’de “bir belirteç genellikle ~ 4 karaktere karşılık geliyor” olduğunu söylüyor .

Şirket, geliştiricilerin, API aracılığıyla çok büyük miktarda veri çalıştırıyorlarsa, ChatGPT’nin özel bir örneğini de alabileceklerini söylüyor. Gönderisi, bunu yapmanın, hangi modeli kullandığınız, isteklere yanıt vermenin ne kadar sürmesini istediğiniz ve botla konuşmaların ne kadar sürebileceği konusunda size daha fazla kontrol sağlayacağını söylüyor.

ChatGPT muhtemelen en çok ilgiyi toplayacak olsa da, OpenAI ayrıca konuşmadan metne modeli olan Whisper için yeni bir API daha duyurdu. Şirket, sesi kopyalamak veya çevirmek için dakikada 0,006 ABD doları maliyetle kullanabileceğinizi söylüyor. Teknik olarak Whisper modeli açık kaynak kodludur, bu nedenle hiçbir ücret ödemeden kendi donanımınızda çalıştırabilirsiniz . Bununla birlikte, OpenAI’nin muhtemelen daha güçlü donanımlara erişimi vardır, bu nedenle hızlı bir geri dönüş arıyorsanız veya telefonlar gibi daha düşük güçlü cihazlarda deşifre yapmanız gerekiyorsa, API’yi kullanmak doğru yol olabilir.

OpenAI, geliştirici geri bildirimlerine dayalı olduğunu söylediği bazı politika değişikliklerini de duyuruyor. Büyük bir tanesi, müşteriler bu kullanımı açıkça onaylamadıkça artık modellerini eğitmek için API aracılığıyla gönderilen verileri kullanmayacağını söylüyor.

Başka bir deyişle, bir devre dışı bırakma sisteminden bir tercih sistemine geçiliyor. Bu değişiklik, bazı şirketler çalışanlarının teknolojiyi tamamen kullanmasını yasakladığından, özel bilgileri bot’a koyma konusundaki bazı endişeleri hafifletmeye yardımcı olabilir. Kullanıcı girdilerinden öğreniyorsa, ticari sırları girmek kötü bir fikir olur çünkü bu verileri bir başkasına verme olasılığı her zaman vardır.

Şirket ayrıca çalışma süresini iyileştirmek için çalıştığını ve “mühendislik ekibinin en büyük önceliğinin artık üretim kullanım durumlarının istikrarı olduğunu” söylüyor.

Birkaç geliştirici, uygulamalarına sohbet hizmetlerini dahil etmek için geçici çözümler bulsa da – OpenAI’nin bir süredir mevcut olan normal GPT API’sini kullanmak dahil – resmi bir ChatGPT API’sinin tanıtımı, bent kapılarının açıldığı an olabilirmiş gibi geliyor. Kendi AI chatbot modelleri üzerinde çalışan çok sayıda şirket olsa da , bu tür şeyler çoğu geliştirici için tamamen ulaşılamaz. Artık sadece OpenAI teknolojisini kullanabilecekler.