Salesforce, işletmeler için tasarlanan yeni sohbet botu Einstein Copilot’u genel kullanıma sundu. Salesforce yöneticilerine göre, Einstein Copilot diğer yapay zeka sohbet botlarına kıyasla halüsinasyon (yani yanlış veya anlamsız bilgi üretme) konusunda daha az risk taşıyor. Böylelikle, diğer yapay zeka sohbet botlarının sıklıkla karşılaştığı sorunlara çözüm getirmeyi amaçlıyor.
Salesforce’un yeni yapay zeka sohbet botu Einstein Copilot tanıtıldı
Salesforce’un ürün pazarlama başkan yardımcısı Patrick Stokes, Einstein Copilot’un diğer yapay zeka sohbet botlarından farklı olduğunu belirtiyor. Bu fark, botun bir işletmenin kendi verilerini kullanmasından kaynaklanıyor. Yani bot, büyük dil modellerine (LLM) gönderilmeden önce şirketin içindeki verileri tarayarak doğru bilgilerle çalışıyor. Bu da yanlış bilgi üretme riskini azaltıyor.
Ayrıca, Einstein Copilot LLM’lerle paylaşılan verileri korumak için bir güvenlik katmanı içeriyor. Bu da şirket verilerinin sohbet botları tarafından yanlış kullanılmasının önüne geçmeyi hedefliyor. Buna ek olarak bot, sistemdeki zayıflıkları tespit etmek için gerçek zamanlı müşteri geri bildirimleri topluyor ve halüsinasyonları tespit eden bir özellik içeriyor.
Stokes, halüsinasyonların tamamen önlenemeyeceğini kabul ediyor. Ancak mümkün olan en düşük seviyede tutulması için şeffaf ve güvenli teknolojiler geliştirmeye çalıştıklarını söylüyor. Salesforce’un CMO’su Ariel Kelmen, büyük dil modellerinin (LLM) doğaları gereği hayal kurmak için tasarlandığını ve bu nedenle halüsinasyonların olabileceğini belirtiyor.
Bu yüzden, Salesforce’un Einstein Copilot’u diğer yapay zeka sohbet botlarına kıyasla halüsinasyon riskini en aza indirmeyi hedefliyor. Ancak, yapay zeka teknolojisinin doğası gereği tamamen halüsinasyonsuz bir dünya hayal etmenin mümkün olmadığını da kabul ediyorlar. Bu, yapay zekanın güvenilirliği ve doğruluğu konusunda sektörün karşılaştığı önemli zorluklardan birisi.