AWS re:Invent 2020 onlarca yeni ürün ve servis güncellemesine sahne olurken, Amazon’un makine öğrenimi alanında vadettikleri etkinliğin gündemini oluşturdu. Biz de AWS Makine Öğrenimi Çözümleri Laboratuvarı Kıdemli Yöneticisi Sri Elaprolu ile şirketin yeni dönemde makine öğrenimi alanında neler sunabileceğini konuştuk. Özellikle SageMaker üzerindeki geliştirmeler sayesinde artık daha az teknik bilgi birikim ile daha çok yeteneği müşterilerine sunabildiklerini kaydeden Elaprolu, makine öğreniminin biz son kullanıcıların hayatına nasıl dokunacağına da değinmeden geçmedi.
AWS Makine Öğrenimi Çözümleri Laboratuvarı Kıdemli Yöneticisi Sri Elaprolu
Makine öğrenimi bu dönemin en önemli gündem konularından. Makine öğrenimine şu anda neden bu kadar ilgi var ve AWS’nin bu konuya yaklaşımı nedir?
Makine öğrenimi aslında yıllardır kullanılıyor ancak yakın zamana kadar büyük kuruluşlar ve bu kuruluşlar içindeki araştırma geliştirme ekipleri, devlet kurumları ve üniversiteler gibi kullanım alanları ile sınırlıydı. Bunun sebebi de, makine öğrenimi için ciddi bir altyapı desteğine ihtiyaç duyulması. Çok fazla bilgi işlem desteğine ihtiyacınız var, çok fazla veriye ihtiyacınız var, bu da çok fazla depolama yapmanız gerektiği anlamına geliyor. BT altyapısına ek olarak, verilerin üzerinde makine öğreniminin nasıl uygulanacağı konusunda da özel becerilere ve uzmanlığa ihtiyacınız var. Bu beceriler de yaygın olarak bulunmadığı için makine öğrenimi teknolojisi, bu şartları sağlayabilen az sayıda şirket ve kuruluş ile sınırlı kalıyordu. Ancak artık ihtiyaç duyduğunuz kaynakları talebe göre artırıp azaltabilmenize, sadece kullandığınız kadar ödemenize ve kaynakları kullanımınız bittiğinde ödemeyi durdurmanıza imkan tanıyan bulut bilişim teknolojisi gittikçe daha yaygın hale gelmeye başladı.
Şirketler de buluttan ve sağladığı imkanlardan daha fazla faydalanmaya başladıkça, makine öğrenimi alanı, bu teknoloji ile ilgilenen herkes için açık bir hale geliyor. Son 7-10 yılda makine öğrenimine olan ilginin oldukça arttığını gördük, bunun birincil sebebi de söylediğim gibi bilgi işlem, depolama ve diğer BT kaynaklarını yaygın olarak kullanılabilir hale getiren bulut bilişim teknolojisi. Ayrıca müşteriler ile birlikte kuruluşlar da artık dijital ortamlarda çok daha fazla bulunuyor ve çok daha fazla veri topluyorlar. Bu verileri anlamlandırabilmek için de makine öğrenimine başvuruyorlar. Yani bir yandan, BT altyapısı çok daha erişilebilir ve uygun maliyetli bir hale geliyor. Diğer yandan, veri hacminin artması, şirketleri bu verilere anlam kazandırmak için makine öğrenimi uygulamayı düşünmeye itiyor. Bu nedenlerle şirketlerin makine öğrenimine olan ilgilerinin gün geçtikçe arttığını görüyoruz.
AWS’nin ne yaptığına gelirsek… Amazon, makine öğrenimini 20 yıldan uzun bir süredir kullanıyor. Tüm iş kollarımızda ve operasyonlarımızda her türlü şey için makine öğrenimi kullanıyoruz. Şirket içi verimliliği artırmak için, müşterilerimize daha yenilikçi ürünler ve hizmetler sunmak için… AWS’de misyonumuz, bu uzmanlığımızı bulut bilişim yeteneklerimizle birlikte makine öğrenimi hizmetleri olarak müşterilerimize sunmak. Bulut bilişim için yaptığımızı, yani BT’yi demokratikleştirmeyi, şimdi de makine öğrenimi için yapmaya çalışıyoruz. Burada amacımız, bir sorunu çözmek için makine öğrenimi uygulamak ile ilgilenen, dünyanın her yerinden geliştiriciye makine öğrenimi kullanma imkanı sunabilmek. Makine öğrenimi hizmetlerimize üç farklı katmanda yaklaşıyoruz.
En alt katmandaki hizmetler, makine öğrenimini uzman bir şekilde uygulayabilenler için geliştirildi. Bunlar, makine öğreniminin nasıl uygulanacağını ve makine öğrenimi framework’leri ile nasıl çalışılacağını, amaca yönelik altyapı ve donanım oluşturmayı ve bu sistemin nasıl optimize edileceğini çok iyi bilen kişiler. Bu seviyedeki uzmanların kullanımına sunduğumuz bir dizi yeteneğimiz var. Orta katmanda, SageMaker aracılığı ile tam olarak yönetilen platform hizmetleri sunuyoruz. Bunlar bir sorunu çözmek için makine öğrenimi uygulamak isteyen ancak bunu yaparken altyapıyı yönetmek zorunda kalmak istemeyen veri bilimcileri ve geliştiriciler için tasarlanmış hizmetler. Böylece makine öğrenimi uygulamaları daha kesintisiz bir süreç haline geliyor. En üst katmanda ise, makine öğrenimi kullanmak isteyen ancak bunun için makine öğrenimi öğrenmek veya makine öğrenimi modellerini kendileri oluşturmak ile ilgilenmeyen müşteriler için geliştirdiğimiz hizmetler var.
Üç farklı katmana bu şekilde yaklaşıyoruz. Böylece müşterilerimiz için gerekli araçları sunarken, onlara kendileri için doğru aracın hangisi olduğuna karar verme özgürlüğünü ve sorunlarını makine öğrenimi ile en iyi nasıl çözeceklerini belirleme esnekliğini de sağlamış oluyoruz. Bu yolculuğa devam etmek için çok heyecanlıyız.
Bu sene re:Invent’te duyurduğunuz yeni makine öğrenimi hizmetlerinden bahseder misiniz?
Daha önce belirttiğim en alt katman için, makine öğrenimi modellerinin eğitiminin daha optimize olmasını sağlayan ve mevcut diğer çip modellerinden daha iyi fiyat/performans oranı sunan amaca yönelik yeni bir çip ekledik. AWS Trainium adı verilen bu özellik, makine öğrenimi uzmanlarının makine öğrenimi modellerinde çok daha iyi bir fiyatla eğitim yapmasına olanak tanıyor ve performans açısından şu anda mevcut olan diğer çiplerden çok daha iyi.
Platform katmanına gelirsek, SageMaker ürün yelpazemizin altına bir dizi özellik ekledik. Örneğin, müşterilerin makine öğrenimi için verileri hazırlamasına ve veri düzenleme işlemlerinin çoğunu yapmasına olanak tanıyan özellikler ekledik. SageMaker Feature Store adlı yeni bir özelliğimiz var. Bunun ile veri bilimciler verilerle çalışırken ve makine öğrenimi için hazırlarken önemli özellikleri tanımladıkça bunları Feature Store’da depolayabilmenin yanı sıra, iş arkadaşları ile de paylaşabiliyorlar. Böylece diğer ekip üyeleri de isterlerse o özellikleri kendi modellerinde kullanabiliyor. SageMaker altındaki süreci otomatikleştirmek için bir özellik de ekledik, böylece veri etiketlemekten makine öğrenimi modellerinin dağıtımına kadar olan süreç çok daha sorunsuz bir şekilde işliyor.
Amazon SageMaker Clarify adında çok heyecanlandığımız bir özellik de ekledik. Bu özellik, SageMaker’ın eğitim verilerinde oluşturduğunuz modeli etkileyecek herhangi bir önyargının tespit edilmesine olanak tanıyor. Dolayısıyla, verilerdeki önyargıyı tespit ettiğinizde, modellerinizi tarafsız hale getirmenizi sağlayacak değişiklikler yapabiliyorsunuz. Sadece eğitim aşamasında da değil, makine öğrenimi modelleriniz uygulamaya geçirildiğinde ve tahminler yürütmeye başladığında da herhangi bir önyargı Clarify tarafından işaretlenebiliyor, bunun sonucunda veri bilimci ekipleriniz gerekli düzeltmeleri yapabiliyor. Profil oluşturma için de destek ekledik, böylece SageMaker üzerinde derin öğrenme modelleri çalıştırıyorsanız, bu modellerin nasıl performans gösterdiğini, eğitim etkinliğinin nasıl gerçekleştiğini çok daha iyi anlayarak gerekli ayarlamaları yapabilmenize olanak sağlanıyor.
Dağıtılmış eğitim de pek çok müşterinin gerçekten ilgi gösterdiği bir konu ancak zorlukları var çünkü petabayt ölçekli veri kümeleri üzerinde eğitim yapıyorsanız, geniş bir bilgi işlem sunucusu kümesini büyütmek ve bunların hepsinde eğitim çalıştırmak kolay değildir. Dağıtılmış eğitim destekli SageMaker tam olarak bunu yapmanıza olanak sağlıyor. Bulutta oluşturduğunuz modelleri alıp uç cihazlara yerleştirme imkanı veren SageMaker Edge Manager adlı yeni bir ürün daha duyurduk. Bunun ile bulutta geliştirdiğiniz modelleri bulut dışında herhangi bir yerde gerçek zamanlı veri işlemeniz gereken örneğin fabrikalar ya da sondaj kuleleri gibi konumlarda kullanabiliyorsunuz. Böylece modelleri bulutta eğitip uç cihazlarda konuşlandırabiliyor ve Edge Manager’ı kullanarak gerçek zamanlı çıkarımlar yapabiliyorsunuz.
En üst katman olan uygulama katmanı için de yeni özellikler ekledik. Amazon Connect adlı müşteri iletişim merkezimiz için yeni özellikler geliştirdik. Connect, artık müşteri destek temsilcilerinizin, destek için için arayan bir müşteri ile ilgili tüm verilere gerçek zamanlı olarak erişmesine olanak tanıyacak. Ayrıca müşteriyi tanımak için soru sorma, yanıt alma ve onaylama süreci yerine ses tanıma teknolojisini kullanabilecekler. Uygulama geliştiricilerinin, uygulamalarının gerçek dünyada nasıl performans gösterdiğini anlamalarına olanak tanıyan yeni bir yetenek de duyurduk. Bu içgörü, uygulamaları optimize etmek ve ileriye dönük olarak sürekli geliştirmek ve dağıtmak için de kullanılabiliyor.
Bu üç katmanın dışında yeni özellikler de ekledik. Aslında, sektörel müşterilerimizi destekleyen yeni bir hizmet alanı duyurduk. Bunlar imalat sektörü gibi makinelerin işin içinde olduğu tüm sektörel müşteriler kapsıyor. Müşterilerimiz bize sıklıkla, makine öğrenimi uygulayarak öngörücü bakım yapılmasını gerektiğini anlamanın ve yapmanın kulağa basit geldiğini ama bunun o kadar kolay olmadığını söylüyorlar. Bu nedenle, makineler üzerine sensör yerleştirmenize, buradan alınan titreşim ve ısı verilerini buluta aktarmanıza ve veriler üzerinde makine öğrenimi modelleri uygulamanıza olanak tanıyan AWS Monitron adında yeni bir özellik duyurduk.
Böylece belirli bir makinenin ne zaman arızalanacağına dair tahminlerde bulunabilir ve arızalanmadan önce bakım yapmak için için devreye girebilirsiniz, bu sayede arıza süresini ve bir makinenin arızalanması ile ilişkili maliyetleri maliyetleri en aza indirebilirsiniz. Buraya Lookout for Equipment ve Lookout for Vision adında iki hizmet daha ekledik. Bu iki hizmet, müşterilerin sensör verilerini veya görüntü verilerini buluta aktarmalarına ve tahminlerde bulunabilmek için veriler üzerine doğrudan makine öğrenimi modelleri uygulamalarına olanak tanıyor.
Ayrıca Panorama adında bir cihaz da duyurduk. Fabrikanızdaki video kameraları bu cihaza bağlayabilir ardından Panorama’ya aktarılan bu görüntüler üzerine makine öğrenimi modelleri uygulayabilirsiniz. Böylece fabrika katında birinin bulunmasına gerek kalmadan hata denetimi gibi işlemleri gerçekleştirebilir veya üretim hatlarınızda neler olduğunu anlayabilir ve ardından duruma uygun otomatik adımlar atabilirsiniz. Yani bu sene birçok ilginç yeni beceri ve hizmet tanıttık. Müşterilerimizin ellerindeki tüm bu yeni beceriler ile ne yapacaklarını görmek bizi çok heyecanlandırıyor.
Makine öğreniminin yaygın kullanım örneklerinden birkaç tanesini paylaşabilir misiniz?
Daha önce de belirttiğim gibi, makine öğrenimi başlangıçta sayılı sektörler, müşteriler ve kuruluşlar ile sınırlıydı. Ancak AWS’nin üç farklı katmanda yaptıkları sayesinde giderek daha yaygın bir şekilde kullanılabilir hale geliyor, karmaşıklıklar da artık yavaş yavaş azalıyor. Bu nedenle, artık çok daha fazla müşterinin makine öğrenimi tabanlı çözümler uyguladığını ve makine öğrenimini kendi ürün ve çözümlerine dahil ettiğini görmeye başladık. Akla gelebilecek her sektörden müşterinin makine öğrenimini keşfetmeye başladığını görüyoruz. Müşterilerimizin neler yaptığına ve makine öğrenimi kullandıkları ilginç alanlara göz atabilmeniz için size dört farklı sektörden kullanım örnekleri vereceğim.
Ev aletleri alanında en büyük üreticilerden biri olan Türkiye merkezli bir müşteri ile başlayayım: Arçelik. Çok fazla üretim tesisine sahipler ve ellerinde ürünlerle, nasıl üretildikleri ile, üretimde kullanılan çeşitli bileşenlerle ve ürün satıldıktan sonra verilen servis ve bakım hizmetleriyle alakalı çok fazla veri var. Arçelik’in gelişmiş analitik için ve bu veriler üzerinde makine öğrenimi uygulamak için AWS üzerinde bir platform oluşturmasının ilk adımı bir data lake oluşturmaktı. Bir data lake, müşterilerin üretim, satış, tahminler, bakım sistemleri, müşteri destek sistemleri gibi normal operasyonları için kullanılan çeşitli sistemlerden verilerin taşınmasına olanak tanır.
Data lake ile tüm bu farklı sistemlerden gelen verileri AWS’de merkezi bir konuma getirebilirsiniz. Veriler lake’e getirildikten sonra onların üzerine artık yenilikçi bazı özellikler sağlamak için Amazon SageMaker kullanılarak geliştirilen makine öğrenimi modelleri uygulayabilirsiniz. Örneğin, üretim süreçleri ile alakalı olan verilere bakarak, bu süreçlerin nasıl geliştirileceği ile ilgili alanları ortaya çıkarmak için makine öğrenimi modelleri uygulayabiliyorlar. Örneğin büyük üretim tesislerinde bir ürünün pek çok üretim aşaması oluyor.
Tüm bu süreç içerisinde iyileştirme yapılabilecek alanları belirleyebilirseniz, mesela israfı azaltarak süreci kısaltabiliyorsanız, bu, ürünün yapım, sevk ve üretme maliyetine ilişkin genel süreci de iyileştirir. Bu nedenle Arçelik, makine öğrenimi modelleri kullanarak pek çok süreç iyileştirmesi sağlayabiliyor. Ayrıca ilginç olduğunu düşündüğüm birkaç alan daha var. Perakendecilerin ve diğer satış noktalarının verilerini getirip anlayarak, daha sonra bunları üretim tarafının verileri ile eşleştirerek ne zaman üretime geçilmesi gerektiğini ya da ürünlerin ne zaman kalite kontrole gitmesi gerektiğini belirleyebiliyorlar. Böylece ürünleri önceden üretip depolamak ve satış gerçekleşmesini ummak yerine, ürünler gerektiği zamanda gerektiği miktarda satışa hazır oluyor. Yani üretimden satışa kadar olan döngünün tamamını optimize edebiliyorlar.
Bir adım daha ileri giderek, SageMaker’ı kullanarak bir beceri geliştirdiler. Burada anonim bir şekilde müşteri hizmetlerine gelen çağrıların verilerinden hangi ürünlerin ve hangi parçaların bakıma gitmesi gerektiğini ve tam olarak hangi parçaların üretilmesi gerektiğini anlayabiliyor, böylece bir müşteri destek çağrısı geldiğinde harekete geçmek yerine, gelen çağrılara önceden hazırlıklı olduklarından çok daha iyi bir şekilde karşılık verebiliyorlar. Makine öğrenimi, Arçelik’in üretim hatlarını iyileştirme, müşterilerine hizmet verme, ürünlerin bakımı konusunda müşterilerini destekleme, satış döngüsünü anlama gibi alanlarda neler yapabileceğini etkiliyor ve doğru zamanda üretime gitme, doğru zamanda kalite kontrol yapabilme gibi operasyonların iyileştirilmesine yardımcı oluyor. Yani onlara uçtan uca işlemlerini iyileştirme fırsatı sağlıyor. Biz de onlarla iş birliği yapmaktan ve süreçlerini iyileştirmek için makine öğrenimi uygulamalarına yardımcı olmaktan büyük heyecan duyuyoruz.
Sizce gelecekte göreceğimiz makine öğrenimi trendleri neler olabilir?
Bunu görmeye başladık bile ama makine öğrenimini her yerde göreceğiz. Burada demek istediğim, AWS kullanımı kolay olan ve özel uzmanlık gerektirmeyen servisleri de müşterilerin kullanımına sunuyor. Yani bir uygulama geliştiricisi iseniz, örneğin dil, vizyon, çeviri veya ilgilendiğiniz başka bir şey ile ilgili olan hizmetlerimizi kolayca kullanabilir ve bunun üzerine bir uygulama oluşturabilirsiniz. Ya da kendi modellerinizi oluşturmakla ilgileniyorsanız, SageMaker’dan faydalanabilirsiniz. Ya da gerçek bir uzmansanız ve işin en ince ayrıntısına inmek istiyorsanız en alt katmanda bunun için sunduğumuz beceriler de bulunuyor. Artık makine öğrenimi hakkında çok daha fazla heyecan ve makine öğrenimi kullanarak geliştirilmiş uygulamalar görmeye başlıyoruz. Bu nedene uzun vadede makine öğreniminin her uygulamada, her online sistemde, üretim hattından sağlık sektörüne ve ulaşım ağlarına kadar her yerde olmasını bekliyoruz. Yani her yerde makine öğreniminin kullanıldığını göreceksiniz.
Görmeye başladığımız ikinci alan ise, son yıllarda müşteriler makine öğrenimi konusunda ciddileşmeye ve kavram kanıtlama çalışmaları yapmaya başladılar. Makine öğreniminin kendileri için çalıştığından emin olmak, yani ele almak istedikleri iş sorunlarını çözüp çözemeyeceğini denemek istiyorlar. Bu da iyi bir şey. Bu, yeni bir teknolojinin benimsenme döngüsündeki ilk adım. Ancak artık makine öğreniminin sadece kavram kanıtlama çalışmaları için değil kritik iş sistemleri için kullanılmaya başlandığını görüyoruz. Ve makine öğreniminin kavram kanıtlama çalışmalarını geçip iş açısından veya görev açısından daha kritik sistemlerde uygulandığını görmeye devam edeceğiz.
Son olarak ise, makine öğrenimi eskiden sadece tablosal verilere uygulanıyordu. Diyelim satış verileriniz ya da finansal işlem verileriniz var ve dolandırıcılık tespiti yapmak ya da diğer veri işleme tekniklerini anlamak için bunlar üzerinde makine öğrenimi modelleri uyguluyordunuz. Ancak şimdi çok daha fazla heyecan görmeye başladık. Ve tamamen yapılandırılmamış bir şekilde video, ses, görüntü veya metin verileri üzerine makine öğrenimi uygulanmasının ve bunların sonradan tablosal veriler ile birleştirilmesinin daha fazla örneğini görmeye devam edeceğiz. Tablo işlemeyle sınırlı olmanın aksine, doğal dil işleme ve bilgisayar vizyonu alanında da daha fazla faaliyet görmeye başladık. Makine öğreniminin geleceği kesinlikle çok parlak. Müşterilerimizin bu dönüşümde başarılı olmalarına ve makine öğrenimi kullanarak müşterilerine yenilikçi çözümler ve ürünler sunmalarına yardımcı olmaya hazırız.
Tüm bunlar bizim gibi nihai kullanıcılar için ne anlama geliyor?
Hepimiz günlük hayatımızda farkında olarak ya da olmayarak makine öğrenimi kullanıyoruz. Uber ya da Lyft gibi bir araç paylaşım hizmeti kullanıyorsanız, bu sistemlerin çoğunun arka planında makine öğrenimi bulunuyor. Ya da Amazon Alexa gibi bir dijital asistan kullanıyorsanız, akıllı termostatlar veya akıllı ev teknolojisinden faydalanıyorsanız, bunların çoğunun arkasında makine öğrenimi var. Sonuç olarak nihai kullanıcılar veya tüketiciler işlerini daha kolay, rahat ve kullanışlı hale getiren daha yenilikçi ürünler ile karşılaşacaklar. Yani bu gelişme tüketici tarafına da yansıyacak. Sağlık, yaşam bilimleri veya eczacılık gibi alanları düşünürsek, örneğin ilaçların pazara daha hızlı getirilmesi sağlanıyor, sağlık sistemine veya ulaşım ağlarına daha fazla tahmin gücü getiriliyor böylece bu sistemler daha iyi optimize edilebiliyor. Sonuç olarak bunların hepsi nihai tüketicinin tükettikleri hizmetler ile ilgili deneyimlerinin iyileştirilmesine yardımcı oluyor. Daha az maliyet, daha güçlü ve genel olarak daha iyi deneyimler sağlıyor. Bu trendi görmeye de devam edeceğiz.
{{user}} {{datetime}}
{{text}}