You will learn how to build a successful machine learning project. If you aspire to be a technical leader in AI, and know how to set direction for your team's work, this course will show you how. Much of this content has never been taught elsewhere, and is drawn from my experience building and shipping many deep learning products. This course also has two "flight simulators" that let you practice decision-making as a machine learning project leader. This provides "industry experience" that you might otherwise get only after years of ML work experience. After 2 weeks, you will: - Understand how to diagnose errors in a machine learning system, and - Be able to prioritize the most promising directions for reducing error - Understand complex ML settings, such as mismatched training/test sets, and comparing to and/or surpassing human-level performance - Know how to apply end-to-end learning, transfer learning, and multi-task learning I've seen teams waste months or years through not understanding the principles taught in this course. I hope this two week course will save you months of time. This is a standalone course, and you can take this so long as you have basic machine learning knowledge. This is the third course in the Deep Learning Specialization.
Addressing data mismatch
Loading...
From the course by deeplearning.ai
Structuring Machine Learning Projects
26223 ratings
From the lesson
ML Strategy (2)
Meet the Instructors
Andrew NgCEO/Founder Landing AI; Co-founder, Coursera; Adjunct Professor, Stanford University; formerly Chief Scientist,Baidu and founding lead of Google Brain
Head Teaching Assistant - Kian KatanforooshLecturer of Computer Science at Stanford University, deeplearning.ai, Ecole CentraleSupelec
Teaching Assistant - Younes Bensouda MourriMathematical & Computational Sciences, Stanford University, deeplearning.ai
Eğer eğitim kümeniz geliştirme ve sınama kümenizden ayrı olarak
farklı bir dağılımdan geliyorsa,
ve eğer hata çözümlemesi size bir veri uyuşmazlığı sorununuz olduğunu gösteriyorsa, ne yaparsınız?
Bunun tam olarak sistematik çözüm yolları mevcut,
ancak gelin sizin deneyebileceğiniz şeylere bir göz atalım.
Büyük bir veri uyuşmazlığı sorunum olduğunu fark edersem,
genellikle yaptığım şey manüel hata çözümlemesini gerçekleştirmek
ve eğitim kümesi ile geliştirme/sınama kümeleri arasındaki farkları anlamaya çalışmaktır
Özellikle hata çözümlemesi söz konusu olduğunda
sınama kümesinin aşırı öğrenmesinden kaçınmak için
manüel olarak sınama kümesi yerine sadece geliştirme kümesine bakmalısınız.
Somut bir örnek vermek gerekirse,
Eğer konuşma ile etkin olan bir dikiz aynası uygulaması oluşturuyorsanız,
bakabilir veya eğer bir konuşma içeriyorsa
geliştirme kümenizin eğitim kümenizden farklı olduğunu anlamaya çalışmak için
Geliştirme kümenizdeki örnekleri dinleyebilirsiniz.
Örneğin, çok sayıda geliştirme kümesi örneklerinin çok gürültülü olduğunu ve
çok fazla otomobil gürültüsü olduğunu fark edebilirsiniz.
Ve bu sizin geliştirme kümenizin eğitim kümenizden farklı olmasını sağlayan bir yoldur.
Belki, diğer hata kategorilerini de bulabilirsiniz
Mesela, aracınızdaki konuşma ile etkin olan dikiz aynasında
genellikle sokak numaralarının yanlış tanımlandığını
çünkü sokak adresi olabilecek
çok daha fazla gezinme sorgusu olduğunu görebilirsiniz.
Dolayısıyla, sokak numaralarını doğru almak gerçekten önemlidir.
Geliştirme kümesi hatalarının niteliğine ilişkin bilgi sahibi olduğunuzda,
ya da geliştirme kümenizin eğitim kümenizden farklı
veya ondan daha zor olabileceğini biliyorsanız
bu durumda yapacağınız, eğitim verilerini daha benzer hale getirmenin yollarını bulmaya çalışmaktır.
Veya, alternatif olarak, geliştirme ve sınama kümelerinize benzer daha fazla veri toplamaya çalışmak olacaktır.
Örneğin, arka plandaki otomobil gürültüsünün büyük bir hata kaynağı olduğunu görürseniz,
yapabileceğiniz tek şey, gürültülü araç içi verileri taklit etmektir.
Bir sonraki slaytta bunun nasıl yapılacağına biraz daha detaylı bakacağız.
Mesela sokak numaralarını tanımakta zorlandığınızı görüyorsunuz,
bu durumda gidip sayılardan bahseden insanlardan daha fazla veri almayı deneyebilir
ve bunu eğitim kümenize ekleyebilirsiniz.
Öyle öngörüyorum ki bu slayt kendinizin deneyebileceği şeyler için kabaca bir kılavuz mahiyetinde
Bu sistematik bir süreç değil ve
sanıyorum ki ilerlemek için ihtiyacınız olan bilgileri elde edeceğinizin bir garantisi yok
Ancak, birlikte, önemli olan boyutlardaki verileri
daha benzer hale getirmeye çalıştığımızı
ve bunun sıklıkla çoğu sorunun çözümünde yardımcı olduğunu anladım.
Yani, eğer amacınız eğitim verinizi geliştirme kümenize daha benzer yapmaksa,
yapabileceğiniz bazı şeyler neler?
Kullanabileceğiniz tekniklerden biri
yapay veri sentezi, ve gelin bunu
araç gürültü problemini ele alma bağlamında tartışalım.
Örneğin, eğer bir konuşma tanıma sistemi kurmaya çalışıyorsanız
otomobil içinde; bir otomobilin arka plan gürültüsüyle,
bir otoyolun arka plan gürültüsüyle vs birlikte,
kaydedilmiş çok fazla sesiniz yok belki de.
Ancak, bunu sentezlemenin bir yolu var.
Örneğin, bu otomobil arka plan gürültüsü olmadan
çok miktarda temiz ses kaydettiğinizi varsayalım.
İşte eğitim kümenizde sahip olabileceğiniz bir klibin örneği.
Bu arada, bu cümle sınama için yapay zekada çok kullanılır
çünkü bu A'dan Z'ye her harfi içeren kısa bir cümle
bu cümle ile çok karşılaşıyorsunuzdur.
"the quick brown fox jumps over the lazy dog" kaydı elinizdeyse
aynı şekilde bir otomobil gürültüsü kaydı da alabilirsiniz.
Eğer sessiz bir sürüş yapıyorsanız,
aracın içi kulağa bu şekilde gelir.
Ve bu iki ses klibini alıp bunları birlikte eklerseniz,
"the quick brown fox jumps over the lazy dog" cümlesinin
kulağa nasıl geldiğini sentezleyebilirsiniz
eğer bunu gürültülü bir otomobilde söylüyorsanız. Yani kulağa böyle geliyor.
Bu nispeten basit bir ses sentezi örneğidir.
otomobilin duvarlarından yansıyan,
sesinizin sesi olan yankılanma vs gibi
diğer ses efektlerini pratikte sentezleyebilirsiniz.
Fakat yapay veri sentezi ile,
oraya gitmek zorunda kalmadan otomobilin içinde kaydedilmiş gibi
çok daha fazla veriyi hızlı bir şekilde oluşturabilir
ve binlerce veriyi, belki de hareket halinde olan bir otomobildeki
on binlerce hatta yüz binlerce saatlik veriyi toplayabilirsiniz.
Dolayısıyla, hata çözümlemeniz, verilerinizin,
otomobilin içinde kaydedilmiş gibi olmasını sağlamanız gerektiğini gösteriyorsa,
o zaman bu bir öğrenme algoritması elde etmeniz konusunda
bu veri türünü sentezlemek için makul bir süreç olabilir.
Şimdi, yapay veri sentezi konusunda
değinmek istediğim bir dikkat notu var.
Diyelim ki, sessiz bir arka plana karşı kaydedilen 10.000 saat veri var.
Ve diyelim ki, sadece bir saatlik otomobil gürültünüz var.
Bu durumda yapabileceğiniz şeylerden biri, bu bir saatlik otomobil gürültüsünü almak
ve sessiz bir arka plana karşı kaydedilmiş
bu 10.000 saatlik veriyi eklemek için bunu 10.000 kez tekrarlamak.
Bunu yaparsanız, ses insan kulağına kusursuz bir biçimde gelir.
ancak bir şans var,
öğrenme algoritmanızın bir saatlik otomobil gürültüsüne uyması riski vardır.
Ve özellikle de, eğer bu,
otomobilde kaydedebileceğiniz tüm seslerin kümesi veya
belki de hayal edebileceğiniz tüm otomobil gürültüsü arka planlarının kümesiyse,
eğer bir saatlik otomobil gürültüsü arka planınız varsa,
bu alanın sadece çok küçük bir alt kümesini taklit ediyor olabilirsiniz.
Bu alanın çok küçük bir alt kümesinden sentezliyor olabilirsiniz.
Ve insan kulağına, tüm bu sesler gayet iyi geliyor
Çünkü bir saatlik otomobil gürültüsü insan kulağına
herhangi bir saatlik otomobil gürültüsü gibi geliyor.
Bu alanın çok küçük bir alt kümesinden veri sentezlemeniz olası
ve sinir ağınız sahip olabileceğiniz
bir saatlik otomobil gürültüsünün aşırı öğrenmesine sebep olabilir.
Aynı bir saatlik otomobil gürültüsünü tekrar etmenize gerek kalmadan
10,000 saatlik otomobil gürültüsünü ucuz bir şekilde
pratik olarak toplamanın mümkün olup olmayacağını bilmiyorum,
ancak temiz bir arka plana karşı 10.000 saatlik
benzersiz ses kaydını eklemek için 10.000 saatlik otomobil gürültüsüne sahipsiniz.
Kesin değil ama bu olasılık dahilinde olabilir.
Sadece bir saatlik yerine 10.000 saatlik benzersiz araç gürültüsü kullanarak
öğrenme algoritması ile daha iyi performans elde etmek mümkündür.
Yapay veri sentezi ile ilgili zorluk,
-kulaklarınız algılayabildiği sürece-
10.000 saatliğin kulağa 1 saatlik kadar aynı gelmesidir,
Bu yüzden bu zayıf sentezlenmiş veri kümesini
uzayın çok daha küçük bir alt kümesinden
siz farkına bile varmadan yaratmış olabilirsiniz.
Yapay veri sentezinin başka bir örneğine bakalım.
Diyelim ki sürücüsüz bir otomobil inşa ediyorsunuz ve bu yüzden
böyle araçları gerçekten tespit etmek ve etrafına bir sınırlayıcı kutu koymak istediğinizi varsayalım.
Pek çok insanın cevabını aradığı soru ise
neden tonlarca araç görüntüsünü taklit etmek için bilgisayar grafiklerinin kullanılması gerektiğidir.
Bunlar bilgisayar grafikleri kullanılarak
üretilen bir kaç otomobil resimleri.
Doğrusu bu grafik efektlerinin oldukça iyi olduğunu düşünüyorum
ve otomobilleri tespit etmek için bu gibi resimleri sentezleyerek,
oldukça iyi bir bilgisayar görüş sistemi geliştirebileceğinizi hayal edebiliyorum.
Bir önceki slaytta çizdiğim resim
bu durumda da geçerliliğini koruyor.
Belki bu tüm otomobillerin kümesidir
ve bu araçların çok küçük bir alt kümesini
sentezlerseniz belki de
bu sentezlenmiş görüntüler göze iyi görünür.
Ancak sentezlediğiniz bu küçük alt kümenin aşırı öğrenmesine sebep olabilirsiniz.
Özellikle, birçok insanın bağımsız olarak yetiştirdiği bir fikir şudur:
otomobilriyi bilgisayar grafikleriyle donatılmış bir video oyunu bulduğunuzda ve
bunlardan gelen görüntüleri yakalayıp, çok büyük bir veri kümesi elde ettiğinizde,
öyle görünüyor ki, bir video oyununa baktığınızda
video oyunu sadece 20 benzersiz otomobil içeriyorsa
o zaman video oyunu iyi görünüyor
çünkü video oyununda dolaşıyorsunuz ve diğer 20 aracı görüyorsunuz
ve bu da oldukça gerçekçi bir simülasyon gibi görünüyor.
Fakat dünya, 20'den fazla benzersiz tasarım otomobiline sahiptir
eğer sentezlenmiş eğitim kümenizin tamamı sadece 20 farklı otomobili içeriyorsa,
sinir ağınız muhtemelen bu 20 otomobile aşırı öğrenme gösterecektir.
Birinin bunu kolayca anlatması zor, ancak
bu görüntüler gerçekçi görünmelerine rağmen,
tüm olası otomobil kümelerinin bu kadar küçük bir alt kümesini kapsıyor oluyorsunuz.
Bu nedenle, özetlemek gerekirse, bir veri uyuşmazlığı sorununuz olduğunu düşünüyorsanız,
Hata analizini yapmanızı
veya eğitim kümesine bakmanızı
veya bu iki veri dağıtımının nasıl farklı olabileceğini
anlamaya çalışmak ve kavramak için dev kümesine bakmanızı öneririm.
Daha sonra, dev kümenize biraz daha fazla benzeyen
daha fazla eğitim verisi almak için bazı yollar bulup bulamayacağınıza bakın.
Bahsettiğim yöntemlerden biri yapay veri sentezi.
Ve yapay veri sentezi işe gerçekten yarıyor.
Konuşma tanımada, yapay veri sentezinin,
halihazırdaki çok iyi bir konuşma tanıma sisteminin performansını önemli ölçüde arttırdığını gördüm.
Yani, oldukça işe yarayabilir
Ancak, yapay veri sentezi kullanıyorsanız,
dikkatli olmayı ve verileri olası tüm örneklerin uzayının
sadece küçük bir alt kümesinden yanlışlıkla taklit edip edemeyeceğinizi aklınızdan çıkarmayın.
Veri uyuşmazlığı ile nasıl başa çıkılacağı konusunda diyeceklerim bu kadar
Gelecek sefer, aynı anda birden fazla veri türünden
neler öğreneceğimiz konusunda bazı düşünceler paylaşıyor olacağım.
Explore our Catalog
Join for free and get personalized recommendations, updates and offers.
Coursera provides universal access to the world’s best education,
partnering with top universities and organizations to offer courses online.
© 2019 Coursera Inc. All rights reserved.
