Selamat datang kembali.
Jadi di sini kita berada tepat di mana kita tinggalkan terakhir kali dalam kuliah sebelumnya kami
mengeksplorasi dataset yang sebenarnya sedikit menunjukkan kepada Anda bagaimana kami dapat membentuk kembali array aktual untuk memberi mereka 784 oleh satu
atau vektor atau untuk memvisualisasikan mereka sebagai 28 dengan 28 array.
Dan jika kita mengubah rasio aspek di sini kita bisa melihat angka yang sebenarnya.
Jadi sekarang mari kita beralih untuk benar-benar menciptakan model yang akan kita
gunakan dengan aliran tensor untuk mencoba mengklasifikasikan angka-angka ini hanya berdasarkan nilai-nilai array mereka.
Jadi yang akan kita lakukan adalah pertama-tama kita katakan x sama dengan.
Dan kami menciptakan apa yang dikenal sebagai placeholder.
Jadi kita katakan T. F. placeholder dan kemudian placeholder akan mengambil beberapa argumen utama.
Salah satunya adalah tipe data yang diharapkan akan diteruskan dan yang lainnya adalah bentuk.
Jadi yang kami lakukan di sini adalah untuk tipe data.
Jika kita melihat angka aktual dalam array angka floating point mereka dan apa yang akhirnya kita lakukan seperti
yang kita katakan T. F. dot dan kami akan mengatakan mengapung.
Dan perlu diingat berbagai jenis pelampung di sini dalam hal ini untuk penggunaan apa pun untuk melayang 32.
Anda bisa menggunakan T. F. melayang 64 untuk lebih presisi tapi itu benar-benar tidak perlu untuk kasus ini.
Jadi saya akan mengatakan T. F. 32 dan kemudian bentuk adalah bentuk aktual yang
Anda perkirakan akan lewat dan kita akan meneruskan gambar-gambar ini sebagai kumpulan 55.000 gambar yang kita lihat sebelumnya dalam pelatihan.
Terlalu banyak gambar untuk dilewati sekaligus.
Jadi yang perlu kita lakukan adalah kita perlu memecahnya menjadi beberapa kelompok.
Sekarang terserah pada kita untuk memutuskan nanti apa ukuran batch yang optimal.
Dan seringkali Anda bereksperimen dengan ukuran batch.
Jadi untuk membentuk apa yang Anda lakukan adalah kami tidak mengatakan apa-apa dan itu akan menjadi semacam semi placeholder untuk ukuran
batch yang sebenarnya karena kami belum mendefinisikannya.
Kami tidak akan mengatakan apa-apa.
Namun kita tahu bentuk sebenarnya sepanjang vektor dan itu akan menjadi tujuh ratus delapan puluh
empat.
Karena ingat kita punya 784 piksel.
Jadi saat ini kami akan mengirimkan jumlah batch tertentu yang belum kami
ketahui dalam bentuk 784 piksel sekaligus.
Jadi itulah x aktual dan yang perlu kita lakukan hanyalah menentukan bobot kita.
Jadi kita akan mengatakan w dan ini di mana kita mengatakan variabel sehingga placeholder pada dasarnya adalah data pelatihan yang Anda lewati
dan Anda akan memiliki dua variabel satu untuk bobot dan yang lainnya untuk bias.
Dan kita akan memulai ini sebagai nol jadi katakanlah katakan nol.
Dan perhatikan bagaimana ini benar-benar mirip dengan PI kecuali kita katakan T. F. bukannya p dan kami akan mengatakan T. F.
nol
Dan dalam hal ini kita akan mengatakan bahwa bentuk di sini karena kita perhatikan T. F. nol mengambil bentuknya sendiri.
Argumen untuk ini akan menjadi 784 karena itu berapa banyak piksel dengan 10.
Dan alasan kita memiliki 10 adalah karena ada 10 kemungkinan angka 0 1 2 3 4 5 6 7 8 9.
Jadi kita akan memiliki 10 label target yang mungkin dan kemudian tujuh ratus delapan puluh empat piksel jadi itulah bobotnya dan
kemudian kita akan mengatakan Byass kita adalah T. F. variabel dan ini akan menjadi T. F. nol
Dan dalam hal ini ingat kita hanya menambahkan bias kita tidak benar-benar mengalikannya.
Jadi karena kita hanya menambahkannya, kita hanya perlu menambahkan satu per kelas dengan mengatakan T. F. nol dan kemudian katakan
10 di sini jadi ingat kembali ke pembicaraan dasar kita tentang jaringan saraf dan persepsi bagaimana kita memiliki
waktu X beberapa cara ditambah bias.
Jadi agar matematika matriks bekerja, kita perlu mengatakan bahwa bentuk dari variabel bobot ini adalah 784 oleh 10
dan kemudian kita memiliki X sekarang adalah beberapa Bache oleh 784.
Jadi perhatikan bagaimana bentuk ini di sini 784 dimensi kedua cocok dengan penyebutan pertama jalan dan kemudian
variabel b cocok dengan penyebutan kedua jalan di sini.
OK jadi kita punya XW dan B data kita bobot dan bias kita.
Dan sekarang yang perlu kita lakukan adalah membuat grafik.
Dan ini sebenarnya cukup sederhana dan yang dilakukan adalah mengatakan mengapa sama dengan T. F. Anda akan memanggil Matt
mole untuk perkalian matriks dan Anda mengatakan matriks gandakan X dengan W dan kemudian tambahkan saja pada bias.
Jadi itulah rumus tepat yang kita bahas sebelumnya dalam serangkaian kuliah tentang bagaimana fungsi
jaringan saraf.
Jadi kita memiliki X kali w ditambah B dan kemudian yang perlu kita lakukan adalah mendefinisikan kerugian dan pengoptimal.
Jadi kita akan mengatakan mengapa garis bawah benar sama dengan T. F. placeholder dan itu akan terlihat sangat mirip
dengan X tetapi alih-alih bentuk yang dilakukan oleh 784 itu akan dilakukan oleh 10.
Jadi kita masih akan mengatakan 32.
Tapi kemudian saya akan mengatakan bentuk sama dengan tidak ada pada 10.
Jadi alasan kita mengapa benar adalah karena karya ini kita akan memberikan label yang
benar minggu ini di sini.
Itu adalah label yang akan kita prediksi.
Mengapa benar adalah apa yang akan dapat kami lewati dan bandingkan dengan label yang sebenarnya dan
label yang akan menjadi label untuk batch dan kemudian dari 10 nilai yang mungkin.
Jadi ingat sebelumnya saya sebutkan bahwa kami memilih satu pengkodean panas.
Jadi dia berkata satu panas sama dengan benar.
Pada dasarnya apa yang dimaksud adalah bahwa target atau label sebenarnya adalah salah satu yang disandikan.
Jadi jika kita membuat sel berita kecil di sini saya hanya menggunakan alt enter untuk melakukan itu.
Kami memeriksa kereta ini dan memberi label jika Anda melihat seperti apa bentuknya sebenarnya. Mari kita
ambil yang pertama.
Ini adalah salah satu pengodean panas.
Pada dasarnya masing-masing posisi indeks ini mewakili angka aktual yang diwakilinya.
Jadi 0 1 2 dan seterusnya.
Jadi ingat, kami benar-benar memvisualisasikan gambar 1 di sini.
Jadi mari kita lihat label untuk satu kali menjalankan itu dan perhatikan gambar ini adalah tulisan tangan tiga.
Jadi jika kita pergi 0 1 2 3.
Perhatikan bahwa yang di sana itu sedang terjadi indeks 3.
Jadi itulah artinya menjadi salah satu yang tidak dilapisi sejauh labelnya.
Jadi kami memiliki 10 nilai yang mungkin di sini dan seluruh label di sini adalah vektor 10 digit.
Jadi itu sebabnya kami mengatakan mengapa benar bentuknya akan menjadi tidak ada karena itu akan menjadi
beberapa ukuran bets tertentu dan kemudian akan memiliki 10 nilai yang semuanya adalah nol kecuali satu dari mereka yang
berada pada posisi indeks dari label yang benar.
OK jadi kita punya y benar.
Dan saya ingin Anda merawat cross entropy dan cross entropy.
Apakah ini akan menangani matematika menjalankan gradien pengoptimal dan kemudian meminimalkan
kesalahan itu.
Jadi, Anda dapat menganggap entropi sebagai cara mewah untuk mengatakan kesalahan yang sebenarnya.
Jadi katakanlah entropi silang sama dengan T. F. mengurangi.
Dan di sini kita akan mengatakan mengurangi mean dan kemudian kita pasand jenis panggilan fungsi yang rumit ini
kita katakan CF dan dan kemudian kita katakan soft crossbench Max menjadi versi 2 Blodgett.
Jadi versi 2 adalah versi yang disempurnakan dengan versi penuh pengertian ini pada satu titik 1 0
dan kemudian di dalamnya kita mengatakan bahwa label yang benar sama dengan y true.
Jadi pastikan kita mencocokkan huruf besar di sana dan kemudian huruf Blodgett.
Pada dasarnya yang kami prediksi sama dengan Y dan beberapa perkecil sedikit Anda bisa melihat semuanya di sini dan Anda
selalu dapat menyalin dan menempel dari catatan juga.
Jadi intinya ini akan mencoba mengurangi kesalahan antara y true versus apa yang kita prediksi.
Jadi kami mencoba meminimalkan perbedaan di sini antara apa yang kami prediksi dan label kebenaran yang sebenarnya.
Dan untuk benar-benar mengoptimalkan ini kita akan mengatakan kereta dan kemudian menggunakan gradient descent kita akan mengoptimalkan dan
di sinilah kita benar-benar bisa bermain-main dengan hal-hal seperti Anda belajar dengan benar.
Kami sedang belajar menilai ke 0. 5.
Anda bisa bermain-main dengan itu.
Semakin rendah tingkat belajar itu berarti semakin lambat itu berakhir belajar.
Tetapi biasanya itu meningkatkan akurasi Anda dengan mengorbankan waktu pelatihan.
Semakin cepat Anda belajar dengan benar, semakin sedikit waktu yang dibutuhkan untuk benar-benar melatih jaringan saraf Anda.
Tetapi mungkin kurang akurat.
Jadi seringkali Anda akan melakukan semacam proses pemeriksaan tebakan untuk memilih tingkat pembelajaran yang
tepat.
Tidak ada cara untuk langsung melakukannya. Tidak ada tingkat belajar yang benar untuk dipilih tanpa membaca penelitian orang
lain dan mungkin apa nilai tingkat belajar yang telah mereka pilih sebelumnya.
Itu selalu tergantung pada apa yang sebenarnya Anda lakukan.
Dan akhirnya kita akan mengatakan kereta sama dengan meminimalkan pengoptimal dan kemudian kita melewati entropi silang.
Jadi pada dasarnya pengoptimal ini adalah metode bagaimana Anda mencoba mengurangi udara dan lintas entropi adalah
bagaimana Anda mendefinisikan udara.
Dan kemudian di sini kereta kecil ini berkata OK ambil pengoptimal itu dan meminimalkan udara tertentu.
Jadi sekarang kita memiliki variabel kereta siap untuk digunakan.
Dan kemudian apa yang akan kita lakukan adalah kita akan menciptakan apa yang dikenal sebagai sesi
dan kemudian menjalankan sesi.
Jadi saya akan mengatakan itu sama dengan T. F. penginisialisasi variabel global.
Jadi ini menginisialisasi semua variabel dan kita perlu menyebutnya ketika kita benar-benar menjalankan
atau sesi.
Jadi semua ini belum benar-benar berjalan.
Kita harus menjalankan semua itu dalam sesi tes.
Jadi pada dasarnya semuanya adalah semacam grafik statis sampai Anda benar-benar menyuruhnya dijalankan.
Jadi katakan dengan T. F. sesi sebagai cesse kita ambil objek sesi yang baru saja kita buat dan kemudian jalankan atau jalankan inisialisasi.
Sekarang semuanya akan diinisialisasi dan kemudian kita akan melatih model untuk sejumlah langkah.
Jadi kita akan menabung untuk langkah dalam jangkauan dan jadi kita benar-benar bisa bermain-main nilai pada dasarnya berapa
kali Anda ingin memberi makan berbagai batch.
Jadi kita bisa menjalankan ini selama seribu langkah dan mereka akan mengatakan batch X Khama batch y melakukan sedikit tuple dan berkemas
di sini.
Kita akan melihat kereta ini batch berikutnya 100 untuk memperhatikan bahwa ini dan objek ini sebenarnya memiliki metode bawaan untuk
pelatihan batch dan yang disebut batch berikutnya.
Nanti dalam seri kuliah berikutnya kita akan membahas set data yang lebih realistis yang tidak
memiliki metode kenyamanan semacam ini.
Tapi Anda bisa lihat di sini ini adalah metode yang sangat nyaman.
Jadi dia berkata ambil batch 100 angka dan kemudian ambil nilai x mereka dan kemudian ambil label target putih
mereka.
Dan mereka akan mengatakan sesi Brunne dan kemudian kita akan menjalankan kereta.
Ingat itu adalah hubungan antara pengoptimal dan area yang kami coba kurangi.
Dan kemudian kita melakukan apa yang disebut kamus umpan.
Jadi kamus hanyalah salah satu dari nilai aktual yang Anda berikan untuk x dan y dan
case ini akan menjadi Bache x dan y.
Jadi katakan di sini X adalah batch X dan kemudian kita mendefinisikan y true sebagai batch y.
Jadi perhatikan X ini di sini dan ini y true atau Y garis bawah true yang terkait dengan apa yang merupakan
dua placeholder karena ingat w M-B yaitu T. F. variabel dan kemudian X adalah pengganti dan
y benar juga pengganti.
Jadi itu berarti kita meneruskan batch ini ke placeholder.
Jadi itu pada dasarnya mengapa aliran tensor menggunakan terminologi placeholder untuk ini karena mereka
placeholder sampai Anda benar-benar lulus dengan kamus.
Jadi kami memiliki kamus umpan yang mengambil kumpulan data X tersebut dan kemudian mengambil Y dan lalu
masuk ke kamus umpan sehingga dapat melakukan itu selama seribu langkah dan kemudian saya masuk ke dalam pertandingan yang
cocok dengan T. F. sama dengan T. F. adalah.
Max mengapa koma satu koma T. F. Max kenapa benar koma 1.
Dan pada dasarnya apa yang dikatakan ini adalah yang terkait dengan panggilan Access dan semua yang
dilakukan adalah mengatakan hei, di mana mereka sama satu sama lain antara apa yang saya prediksi sebagai label saya dengan apa
sebenarnya label sebenarnya.
Jadi apakah mereka benar-benar berbaris.
Jadi itu adalah pasangan saya.
Dan kemudian jika saya memiliki pasangan saya, saya dapat menghitung akurasi dengan menelepon.
Mengurangi rata-rata T. F. melemparkan pada pertandingan dan kemudian melihat kebetulan 32.
Dan akhirnya saya bisa mencetak akurasi total saya dengan mengatakan sesi menjalankan formula akurasi itu dan kemudian lulus kamus feed
kecuali untuk kasus ini saya akan ingin tahu akurasi pada set pengujian saya.
Jadi untuk itu kita akan mengatakan X adalah gambar uji ini dan kemudian y true.
Apakah ini label pengujian OK.
Sekarang ingatlah banyak kode yang sangat rumit dalam kuliah berikutnya untuk belajar tentang objek estimator
yang masuk akal yang membuat keseluruhan proses ini menjadi lebih mudah.
Dan itu lebih mirip sikat belajar.
Namun saya ingin Anda mendapatkan gambaran tentang apa yang terjadi di latar belakang ketika Anda
benar-benar menggunakan estimator.
Jadi S-meter pada dasarnya melakukan semua pengangkatan berat untuk Anda dan membuat objek grafik ini untuk Anda.
Tapi mari kita lanjutkan dan jalankan ini dan lihat bagaimana kinerjanya.
Aduh, sepertinya ada kesalahan cepat di sini.
Demikian kata kereta kamus feed.
Itu harus menjadi titik dua karena ini adalah kamus.
Sekarang mari kita jalankan lagi salah ketik ini.
Itu harus T. F ..
Jalankan lagi.
Dan begitulah.
Jadi, jika Anda menjalankan ini, Anda harus mendapatkan akurasi mendekati 90 persen.
Sekarang sementara itu mungkin tampak benar-benar bagus terutama mengingat bahwa kita benar-benar hanya melewati
nilai array dan itu berarti komputer.
Sembilan puluh satu persen dari waktu sebenarnya dapat mengetahui nomor apa yang sedang ditulis.
Kita sebenarnya bisa melakukan jauh lebih baik.
Dan faktanya beberapa model terbaik di dunia dapat memperoleh akurasi lebih dari sembilan puluh sembilan persen dalam hal ini.
Anda akan berurusan dengan model-model jaringan saraf convolutional.
Anda dapat memeriksa bagaimana tensor saya yang lain untuk suatu kursus.
Untuk informasi lebih lanjut tentang itu dan mengatakan yang akan kita lakukan sekarang adalah menggeser
persneling untuk belajar tentang bagaimana menggunakan estimator tensor yang merupakan cara yang jauh lebih sederhana untuk berurusan dengan jenis set data
yang lebih realistis yang tidak memiliki fungsi kenyamanan dari batch berikutnya dan seterusnya.
Jadi kita akan membaca file S aktual semacam hal-hal seperti set data iris yang kita terbiasa
dan kemudian belajar bagaimana kita dapat menggunakan tensor Flo membangun objek estimator untuk menjalankan dengan cepat dan membuat
model dengan aliran tensor.
OK kita akan lihat apakah ada.