Lacan; “insan dilde ikamet eder” demiş çünkü bizi, diğer canlılardan ayıran bu “aktarıcı” unsur olmadan ne medeniyeti inşa edebilirdik ne de geleceği hayal edebilirdik.
Doğduğumuz andan itibaren dili işlemeye başlarız ve doğru hale getirmek için yıllarca pratik yapmamız gerekir.
Hayatımızın ilerleyen dönemlerinde bir yeni bir dil öğrenmeye çalışınca bunun ne kadar zor olduğunu düşünebiliriz. İşte yapay zeka bunu bir şekilde başarmış gibi görünüyor. 🤔
ChatGPT'den Cemal Süreya tarzında bir şiir yazmasını istersek, saniyeler içinde şiir üretebilir. Yine yazılım ve programlama hakkında hakkında bilgilendirici bir Linkedin gönderisi hazırlamasını istersek saniyeler içinde hazırlayabilir.
Kulağa oldukça ilginç geliyor. Peki yapay zeka, dili tam olarak nasıl anlayıp geri konuşabiliyor?
Bilişim teknolojilerindeki gelişmeler, bilim insanlarını diller üzerinde çalışmaya teşvik etti. İlk dönemlerde bilgisayar ile konuşmayı amaçlayan bilim insanları zamanla, konuşulanları veya yazılanları anlamaya ve değerlendirmeye çalıştı.
Doğal dil işleme adı verilen bu bilim dalı, genel olarak, dillerin bilgisayar yardımıyla işlenmesi üzerinde çalışmaktadır.
Bu yazıda doğal dil işleme nedir ve doğal dil işlemenin arkasındaki çalışma mantığını inceleyeceğiz. Ayrıca doğal dil işlemenin yakın tarihini merak ediyorsan bu yazımıza da göz atmanı öneririz.
Doğal Dil İşleme (NLP) Nedir?
Doğal dil işleme (NLP), makinelerin ve bilgisayarların tıpkı insanlar gibi insan dilini anlayıp anlam çıkarmasına odaklanan yapay zeka ve bilgisayar biliminin bir dalıdır.
Amaç, bilgisayarları büyük miktarda doğal dil verisini işleyecek ve analiz edecek şekilde programlamaktır. Doğal dil işleme gerçekten bilgisayar bilimi ve dilbilim arasındaki arayüzdedir desek yanlış olmaz.
Doğal dil işleme genel olarak iki ana kategoriye ayrılabilir:
- Doğal dil anlayışı (NLU)
Doğal dil anlayışı, yapay zekanın metin veya konuşmayı nasıl anlamlandırdığıdır. Aslında "anlamak" kelimesi biraz yanlış bir adlandırma çünkü bilgisayarlar doğası gereği hiçbir şeyi anlamazlar. Bunun yerine girdileri, insanlar için anlamlı çıktılara yol açacak şekilde işleyebilirler.
- Doğal dil üretimi (NLG)
Son zamanlarda bilgisayarların dil yaratma yeteneği oldukça ilgi görüyor. Aslında, üretken yapay zekanın metin kısmı doğal dil üretiminin bir parçasıdır.
Doğal dil üretimini (NLG) karmaşık bir tahmin oyununa benzetebiliriz. Dilbilgisi kurallarını doğal olarak anlamak yerine, üretken yapay zeka modelleri, yanıtlarının bağlamını göz önünde bulunduran olasılıksal modeller aracılığıyla birer metin oluşturur.
Günümüzün büyük dil modelleri (LLM'ler) çok fazla metin üzerinde eğitildiği için, bazen içerik yanlış olsa bile çıktıları genellikle iyidir.
Gelelim doğal dil işleme konusuna. ◀️ Doğal dil işleme makinelerin hem konuşulan hem de yazılı insan diliyle çok çeşitli görevler yapmasını sağlar. Örneğin, ChatGPT’nin senin fark edemeyeceğiniz söz dizimi hatalarını yakalayabilmesine ve yanıtlayabilmesine yardımcı olur.
Doğal dil işleme aracılığıyla yapay zeka uygulamaları şu görevleri yerine getirir:
- Dil üretimi: Yapay zeka uygulamaları, sohbet robotları, sanal asistanlar veya hatta yaratıcı yazarlık için metin üretme gibi, verilen komutlara veya bağlamlara göre yeni metin üretir.
- Soruları yanıtlama: Yapay zeka uygulamaları, belirli bir konu hakkında doğal dilde soru soran kullanıcılara yanıt verir.
- Duygu analizi: Yapay zeka uygulamaları, metnin olumlu, olumsuz veya nötr bir duyguyu ifade edip etmediğini belirlemek için metni analiz eder.
- Metin sınıflandırması: Yapay zeka, metinleri farklı kategorilere veya konulara göre sınıflandırır. Örneğin; haber makalelerini politika, magazin haberlerini eğlence gibi kategorilere ayırır.
- Makine çevirisi: Yapay zeka, metni bir dilden diğerine, örneğin İngilizceden İspanyolcaya çevirir.
Bunlar yapay zekanın doğal dil işleme sayesinde yapabileceği birkaç temel görevden sadece birkaçı.
Peki yapay zeka bu görevleri yapabilecek aşamaya nasıl geliyor? Arkasındaki doğal dil işleme süreci nasıl çalışıyor? Hadi aşağıdaki bölümde bu konuya göz atalım. 👀
Doğal Dil İşleme (NLP) Nasıl Çalışır?
Bir bilgisayar veya yapay zeka uygulaması yukarıda saydığımız görevlerden herhangi birini yerine getirmeden önce, dilin nasıl çalıştığını anlaması gerekir. Bu, makine öğrenimi denen bir süreçle yapılır. Bu süreçte, büyük (devasa da diyebiliriz) miktarda eğitim verisi veya farklı bağlamlarda kullanılan dil örnekleri makineye aktarılır ve öğretilir.
Devasa derken bunu daha iyi anlamlandırabilmek için şöyle bir bilgiyi de iletelim; OpenAI'ın sohbet robotu olan ChatGPT, açık web sitelerinden, metinlerden, makalelerden ve verilerden yarım trilyondan fazla kelimeyle beslendi. 😧
Tabii ki makineyi sadece veriyle doldurunca işimiz bitmiyor. Kelimeler ve cümleler insanlar için anlam ifade ederken, bilgisayarlar için sadece metin dizileri.
Bilgisayarın bunları anlayabilmesi için, insan eğitmenler verileri etiketler ve bilgisayara dili anlaması, kuralları ve yapıları öğrenmesi ile bunları nasıl analiz edeceği öğretilir. Bu süreç, doğal dil işleme teknikleri kullanılarak gerçekleştirilir.
Türkçe dersinde cümle analizi yaptığımızı hatırlıyor musun? ✍️Bu, söz dizimsel çözümlemeydi. Cümleyi parçalara ayırarak özne, nesne ve fiil gibi öğeleri tanımlıyorduk. İşte yapay zekâ da benzer bir şekilde çalışır.
Bu süreçte kullanılan teknikler şunları içerir:
- Belirteçleştirme: Metnin daha küçük anlamsal birimlere bölünmesi.
- Kelime türü etiketleme: Kelimelerin isim, fiil, sıfat gibi türlere ayrılması.
- Köklendirme: Kelimelerin köklerine veya temel biçimlerine indirgenmesi.
- Diyalog yönetimi: Yapay zekânın konuşmalardaki üslup kalıplarını analiz etmesi.
Bu yöntemler, yapay zekânın dili daha iyi anlamasını sağlar. Yapay zeka bu tekniklere hakim olduğunda, dilsel bilgisini derin öğrenme algoritmalarına dönüştürebilir. Daha sonra, metni okuyabilmenin ve anlayabilmenin yanı sıra, kendi metnini bile yazabilir.
Yani kısacası “bana 100 kelimelik bir şiir yaz” gibi isteklerimiz karşısında ChatGPT'nin metin üretmesini sağlayan şey budur.
Doğal dil işlemenin (NLP) nasıl çalıştığını özetleyecek olursak:
- Bilgisayara büyük miktarda eğitim verisi verilir.
- İnsanlar bu verileri dil kurallarıyla etiketler ve tokenleştirme gibi doğal dil işleme tekniklerini öğretir.
- Daha sonra bu teknikleri kullanarak dil modelinin temelini oluşturan derin öğrenme algoritmalarını geliştirir.
- İnsan eğitmenler modeli geri bildirim yöntemiyle tekrar eğitir.
- Bu algoritmalar, soruların cevaplanması veya yeni metin üretilmesi gibi görevlerin gerçekleştirilmesini sağlar.
Doğal Dil İşleme Uygulamaları
NLP'nin bazı temel uygulamaları şunlardır:
Duygu analizi
Duygu analizi, metnin duygusal amacını sınıflandırma sürecidir. Duygu sınıflandırma modelinde girdi bir metin parçasıdır. Çıktı ise ifade edilen duygunun olumlu, olumsuz veya nötr olma olasılığıdır. Bu olasılıkları yakalamak için derin öğrenme modelleri kullanılır. Duygu analizi, çeşitli online platformlardaki müşteri yorumlarını sınıflandırmak için kullanılabilir.
Otomatik Tamamlama
Otomatik tamamlama, bir sonraki kelimenin ne olacağını tahmin eder. İşte tam bu noktada doğal dil işleme, senin daha önce yazdıklarını, başkalarının geçmişte yazdıklarından oluşan büyük bir veri tabanıyla karşılaştırarak, sıradaki cümlenin ne olması gerektiğine dair bir veya birkaç tahmin sunabilir. Bu uygulamayı WhatsApp gibi sohbet uygulamalarında ve Google gibi arama sorgularını tahmin etmede görebiliriz.
Sınıflandırma
Doğal dil işlemenin bir diğer yaygın kullanımı farklı girdileri kategorize etmektir. Örneğin, doğal dil işleme bir şirketin ürün ve hizmetlerinin hangi yönlerinin öne çıktığını belirleyebilir.
Metin üretimi
Doğal dil üretimi (NLG), insan tarafından yazılmış metne benzer metin üretir. Bu tür modeller, tweetler, bloglar ve hatta kod dahil olmak üzere farklı türlerde ve biçimlerde metin üretmek için kullanılabilir.
Özetleme
Özetleme, metni kısaltarak en önemli bilgileri öne çıkarmayı amaçlayan bir işlemdir. Özetleme, seçmeli (Extractive) ve yaratıcı (Abstractive) iki yöntem sınıfına ayrılır.
- Seçmeli (Extractive) Özetleme: Bu yöntem, uzun bir metinden en önemli cümleleri seçip bunları bir araya getirerek bir özet oluşturmayı hedefler.
- Yaratıcı (Abstractive) Özetleme: Bu yöntem ise, bir özet oluştururken metni yeniden ifade eder. Bu, orijinal metinde bulunmayan kelimeler ve cümleler içeren bir özet yazmaya benzer.
Soru cevaplama
Soru Cevaplama, insanların doğal dilde sordukları sorulara yanıt verme görevini üstlenir.
Bu alandaki en dikkat çekici örneklerden biri, 2011 yılında Jeopardy bilgi yarışmasında en iyilerle yarışan Watson isimli IBM bilgisayarın rakiplerine fark atmasıdır.
Soru cevaplama görevleri genellikle iki gruba ayrılır:
- Çoktan Seçmeli: Bu türde, bir soru ve birkaç seçenekli yanıt sunulur. Modelin görevi doğru yanıtı seçmektir.
- Açık Alan (Open Domain): Açık alan soru cevaplamada, model, seçenek sunulmadan sorulan bir soruya doğal dilde yanıt verir. Genellikle, bu yanıtlar büyük miktarda metni sorgulayarak elde edilir.
Konuşma İşleme
Konuşulan dili metne dönüştürmek, aksanlar, arka plan gürültüsü ve fonetik varyasyonlar gibi zorluklar ortaya çıkarır. Doğal dil işleme, bağlamsal ve anlamsal bilgileri kullanarak bu süreci önemli ölçüde iyileştirir.
Zoom veya Google Meet gibi platformlarda doğal dil işleme, devam eden konuşmadan gelen yeni bağlama göre gerçek zamanlı transkriptlere izin verir.
Bir diğer örnek olarak da müşteri hizmetlerindeki sesli yanıtları örnek verebiliriz. Burada yardım istenilen konuyu anlamak için doğal dil işleme kullanılır.
Dil Çevirisi
Makine çevirisi, farklı diller arasında otomatik çeviri yapar. Bu tür bir modelde, giriş olarak belirli bir kaynak dildeki metin verilir ve model, bunu belirlenen hedef dilde bir metin olarak çıktı verir. Google Translate belki de en bilinen uygulamadır.
Makine çevirisi için kullanılan etkili yaklaşımlar, benzer anlamlara sahip kelimeleri doğru bir şekilde ayırt edebilir. Bazı sistemler ayrıca dil tanıma işlemi yapar, yani metnin hangi dilde olduğunu belirleyebilir.
Doğal Dil İşleme Örnekleri
Doğal dil işleme sağlık, hukuk hizmetleri, perakende, sigorta ve müşteri hizmetlerinde verimliliği, doğruluğu ve kullanıcı deneyimini artırır.
Sağlık hizmeti
NLP, klinik notların yazıya geçirilmesi ve düzenlenmesinde yardımcı olur. Yani hasta bilgilerinin doğru ve etkili bir şekilde belgelenmesini sağlar.
Gelişmiş NLP modelleri, hasta bilgilerini kategorilere ayırabilir, semptomları, teşhisleri ve reçeteli tedavileri belirleyebilir. Böylece belgeleme sürecini basitleştirebilir, manuel veri girişini en aza indirebilir ve elektronik sağlık kayıtlarının doğruluğunu artırabilir.
Finans
Finans kuruluşları, belirli hisse senetleri veya genel olarak piyasa hakkındaki piyasa duygusunu ölçmek için haber makaleleri, finansal raporlar ve sosyal medya gönderileri gibi çeşitli metin verileri üzerinde duygu analizi gerçekleştirmek için doğal dil işlemeden yararlanır.
Algoritmalar, olumlu veya olumsuz kelimelerin sıklığını analiz eder. Sonrasında makine öğrenimi modelleri aracılığıyla hisse senedi fiyatları veya piyasa hareketleri üzerindeki olası etkileri tahmin edebilir.
Müşteri hizmetleri
Doğal dil işleme destekli sohbet robotlarının, müşteri sorularına 7/24 yanıtlar sağlayarak müşteri desteğinde devrim yarattığı bir gerçek. Bu sohbet robotları, metin veya ses yoluyla müşteri sorgularını anlar, altta yatan amacı yorumlar ve doğru yanıtlar sunar.
Örneğin, bir müşteri sipariş durumu hakkında bilgi almak isteyebilir. Bu durumda sohbet robotu sipariş yönetim sistemiyle entegre olarak gerçek zamanlı durumu alır ve müşteriye iletebilir.
E-Ticaret
Doğal dil işleme, kullanıcı sorgularını, konuşma dilinde ifade edilmiş veya yazım hataları içeriyor olsalar bile anlayıp yorumlayarak e-ticaret platformlarındaki site içi arama işlevselliğini önemli ölçüde artırır.
Örneğin, bir kullanıcı "syah elbse" için arama yaparsa, NLP algoritmaları yazım hatalarını düzeltir ve amacı anlayarak "siyah elbise" için alakalı sonuçlar sunar. Böylece kullanıcıların aradıklarını, kesin olmayan sorgularla bile bulmalarını sağlar.
Doğal Dil İşleme (NLP) ve Büyük Dil Modelleri (LLM) Arasındaki Fark Nedir?
Büyük dil modeli (LLM), insan tarafından oluşturulan metni anlayabilen ve doğal sesli çıktılar üretebilen bir tür makine öğrenimi modelidir. Yaygın olarak kullanılan ChatGPT gibi LLM'ler, çok büyük metin veri kümeleri üzerinde eğitilir.
NLP ve LLM terimleri birbirinden farklı kavramlar olsa da tabii ki benzerlikleri de var. Her ikisi de insan dilini yorumlamak için makine öğrenimi ve büyük veri kümelerini kullanır. Hatta, bazı kaynaklar LLM'i bir NLP türü olarak tanımlar.
Ancak LLM'ler NLP modellerinden birkaç önemli noktada farklılık gösterir 🤚:
- NLP genellikle belirli bir görev için eğitilirken, LLM'lerin geniş bir kullanım yelpazesi vardır.
- NLP içgörüler ve yorumlar sağlarken, LLM'ler istatistiksel olarak alakalı metinler üretir ancak altta yatan anlamın anlaşılmasını sağlamayabilir.
- Çok geniş bir kullanım alanına sahip oldukları için LLM’leri eğitmek için NLP modellerinden çok daha fazla veri ve eğitim gerekir.
Örneğin, bir NLP modeli duygu analizi için daha yararlı olurken, müşterilerle etkileşime giren bir sohbet robotu için LLM daha iyi çalışır.
Bir başka örnek verelim. NLP modeli arama motorunun kullanıcının sorgusunu yorumlamasına ve ilgili arama sonuçları üretmesine yardımcı olabilirken, bir LLM önceden var olan ilgili içeriğin istatistiksel analizine dayanarak sorguya kendi yanıtını yazabilir.
NLP vs. LLM vs. Üretken Yapay Zeka
NLP, üretken yapay zekadan farklıdır ancak onunla ilişkilidir. Üretken yapay zeka metin, ses, video, görüntü veya kod üretebilen derin bir öğrenme modelidir. Buna karşın, NLP modelleri genellikle metin üretmek için tasarlanmamıştır. Aralarındaki farkı bu şekilde özetleyebiliriz. Bu arada, LLM'ler de sorgulara yanıt olarak metin üretebildikleri için bir tür üretken yapay zekadır.
Doğal Dil İşleme ile İlgili Tartışmalar
Doğal dil işleme her ne kadar kullanışlı bir araç olsa da, kusurları da yok değil. Doğal dil işleme, insan dilinin karmaşıklığı nedeniyle çeşitli dezavantajlarla karşı karşıya.
- Belirsizlik. İnsan dili genellikle belirsizdir ve kelimelerin birden fazla anlamı vardır. Bu da NLP modellerinin farklı bağlamlarda doğru anlamı yorumlamasını zorlaştırır. Bu sorunu çözmek için NLP, bağlam değerlendirmesi gibi çeşitli yöntemler kullanır. Her ne kadar sorunu çözmek için bir yöntem kullanılsa da bu devam eden bir sorundur.
- Bağlam. Kelimelerin kullanıldığı bağlamı anlamak doğru yorumlama için çok önemlidir. Kelimelerin bağlamını anlamak NLP için büyük bir zorluktur.
- İroni. İroni ve alaycı metinleri tespit etmek oldukça zordur.
Doğal dil işleme birçok tartışmanın merkezinde yer aldı. Bazıları doğrudan modeller ve çıktılarına odaklanırken, diğerleri bu sistemlere kimin erişebildiği ve bunların eğitiminin doğal dünyayı nasıl etkilediği gibi ikinci dereceden kaygılara odaklanıyor.
Araştırmacılar ve geliştiriciler, doğal dil işleme modellerinin yeteneklerini geliştirmek ve bunları insan dilini anlamada daha yetenekli hale getirmek için gelişmiş makine öğrenimi ve derin öğrenme tekniklerini kullanarak bu zorlukların üstesinden gelmek için sürekli çalışıyorlar. 🏋️
Doğal Dil İşleme (NLP) için Programlama Dilleri, Kütüphaneler ve Framework’ler
Birçok programlama dili ve kütüphane doğal dil işlemeyi destekler. Biz en çok tercih edilenleri aşağıda listeledik 👇:
- Python, doğal dil işleme görevlerini ele almak için en çok kullanılan programlama dilidir. Derin öğrenme için çoğu kütüphane ve framework Python için yazılmıştır.
- Natural Language Toolkit'in kısaltması olan NLTK Python programlama dili için oluşturulmuş, doğal dil işleme konusunda birçok kütüphane içeren yararlı bir araçtır. Sınıflandırma, etiketleme, köklendirme, ayrıştırma ve anlamsal akıl yürütme için bir dizi metin işleme kütüphanesi sağlar.
- spaCy, çok yönlü ve açık kaynaklı doğal dil işleme kütüphanelerinden biridir. 66'dan fazla dili destekler. Ayrıca önceden eğitilmiş kelime vektörleri sağlar. spaCy, adlandırılmış varlık tanıma, sözcük türü etiketleme, bağımlılık ayrıştırma, cümle segmentasyonu, metin sınıflandırması, lemmatizasyon, morfolojik analiz, varlık bağlama vb. için üretime hazır sistemler oluşturmak için kullanılabilir.
- Popüler derin öğrenme kütüphaneleri arasında TensorFlow ve PyTorch bulunur. Bu kütüphaneler doğal dil işleme modelleri geliştirmek için en yaygın araçlardan bazılarıdır.
- R programlama dili veri bilimciler ve istatistikçiler tarafından yaygın olarak kullanılır. Doğal dil işleme için R'deki kütüphaneler arasında TidyText, Weka, Word2Vec, SpaCyR, TensorFlow ve PyTorch bulunur.
- JavaScript, Java ve Julia da dahil olmak üzere pek çok başka dilin NLP yöntemlerini uygulayan kütüphaneleri vardır.
ChatGPT Üzerinde Doğal Dil İşleme (NLP) Örneği
Metin üreten birçok yapay zeka uygulaması bunu bir insanın istemindeki kalıpları tahmin ederek yapar. Ardından istekle en iyi eşleşen metinle yanıt verir. Bu, bir cümlede bir kelime dizisinin olasılığını tahmin etmeye olanak tanıyan doğal bir dil işleme tekniğidir. Bu teknik genellikle başarılı olur.
Bunun yanında yapay zeka sohbet robotları diyalog yönetimine (başka bir doğal dil işleme tekniği) dayanan kullanıcı niyetini de analiz eder. Bu, eğitim verilerindeki diğer diyalog örneklerine bakarak bir konuşmayı simüle etmelerini ve aynı stili taklit etmelerini sağlar.
(Teşekkürler ChatGPT. :D 🫶)
Yani doğal dil işleme, sohbet robotlarının tutarlı konuşmalar yapmasını ve kullanıcı niyetini anlamasını sağlayan şeydir.
Ancak sohbet robotları dildeki nüansları belirleyebilse de (alaycılık veya argo kelimeler gibi) çoğunun bunları taklit etmesi için uyarılması gerekir.
(Aaa 🥲!)
Bu örnekte olduğu gibi ChatGPT 4o ilk cümleme beklediğim bir yanıtı iletti ve bana öneriler sundu. Beklenmeyen, iğneleyici bir cevap için onu uyarıcı bir istem girmem gerekti.
Sonuç
Doğal dil işleme günümüzde chatbotlar, siber güvenlik, arama motorları ve büyük veri analizi gibi gerçek-dünya kullanımlarının yanında teknoloji ile iletişim kurma şeklimizi değiştirmekte.
Doğal dil işlemenin uzunca bir süre hayatımızda olacağı ve hayatımızı birçok yönden kolaylaştıracağı açıkça ortada.
Zira bireysel olarak ChatGPT gibi araçlardan yararlanmasak bile doğal dil işleme yukarıdaki örneklerde saydığımız gibi hayatımızda birçok alanda karşımıza çıkmakta.
