BAHAN PRESENTASI UNTUK MATAKULIAH JARINGAN SYARAF TIRUAN
SEMESTER GENAP 2019-2020
DOSEN : DARWISON, MT
KHAIRUN HAFIZHAN
(1610951005)
DOSEN : DARWISON, MT
KHAIRUN HAFIZHAN
(1610951005)
REFERENSI :
- daniel graupe, 2007, principles of artificial neural networks, world scientific
JURUSAN TEKNIK ELEKTRO
FAKULTAS TEKNIK
UNIVERSITAS ANDALAS
PADANG
chapter 8. Counter Propagation
• Tujuan[KEMBALI]
Tujuan dari presentasi mata kuliah ini adalah
untuk mengetahui dan memahami Jaringan saraf Counter Propagation
• Landasan Teori[KEMBALI]
1. Pengantar
Jaringan saraf Counter Propagation, karena Hecht {Nielsen (1987), lebih cepat
sekitar faktor 100 dari propagasi balik, tetapi lebih terbatas dalam kisaran
aplikasi. Ini menggabungkan jaringan Self-Organizing (Instar) dari Kohonen
(1984) dan jaring Oustar Grossberg (1969, 1974, 1982) yang terdiri dari satu
lapisan masing-masing. Ini memiliki sifat yang baik dari Generalisasi (penting,
dalam beberapa derajat, untuk semua saraf jaringan) yang memungkinkannya untuk
menangani dengan baik dengan sebagian tidak lengkap atau sebagian salah masukan
vektor. Jaringan Counter Propagation berfungsi sebagai jaringan pengelompokan
yang sangat cepat. Strukturnya seperti pada Gambar 1, di mana lapisan K
(tersembunyi) diikuti oleh output G-layer.
Gambar
1. Counter
propagation network
2. Lapisan Peta Susun Kohonen
Lapisan
Kohonen [Kohonen 1984, 1988] adalah lapisan “Winner-take-all” (WTA). Jadi,
untuk vektor input yang diberikan, hanya satu output layer Kohonen adalah 1
sedangkan yang lainnya adalah 0. Tidak diperlukan vektor pelatihan untuk
mencapai kinerja ini. Maka nama: Lapisan Peta Susun Sendiri (SOM-Layer).
Biarkan output bersih dari neuron lapisan Kohonen dilambangkan sebagai kj
3. Lapisam Grossberg
output
bersih dari lapisan Grossberg [Grossberg, 1974] sebagai gj :
4. Pelatihan Lapisan Kohonen
Lapisan Kohonen bertindak sebagai penggolong di mana semua vektor input yang serupa, yaitu mereka yang berasal dari kelas yang sama menghasilkan keluaran persatuan di Kohonen yang sama neuron. Selanjutnya, lapisan Grossberg menghasilkan output yang diinginkan untuk kelas yang diberikan seperti yang telah diklasifikasikan dalam lapisan Kohonen di atas. Dengan cara ini, generalisasi kemudian tercapai.
1) Proses
Awal Input Lapisan Kohonen
Biasanya diperlukan untuk
menormalkan input layer Kohonen, sebagai berikut :
Pelatihan
lapisan Kohonen sekarang berlanjut sebagai berikut:
- Normalkan vektor input x untuk mendapatkan x0
- Lapisan neuron kohonen yang
adalah
yang tertinggi, dinyatakan sebagai pemenang dan bobotnya disesuaikan untuk
menghasilkan satu kesatuan output kh = 1, dimana
2) Proses awal input kohonen
5. Lapisan Grossberg
Aset utama lapisan Grossberg adalah kemudahan pelatihannya. Pertama hasilnya lapisan Grossberg dihitung seperti di jaringan lain, yaitu :
Kj menjadi output layer Kohonen dan vij yang menunjukkan berat lapisan Grossberg. Jelas, hanya bobot dari neuron Kohonen non-nol (bukan nol Grossberg input layer) disesuaikan. Penyesuaian berat mengikuti hubungan yang sering digunakan sebelumnya, yaitu:
Ti menjadi output (target) yang diinginkan, dan untuk beta iterasi n +1 yang awalnya ditetapkan sekitar 1 dan secara bertahap dikurangi. Awalnya Vij secara acak diatur untuk menghasilkan vektor norma 1 per setiap neuron. Oleh karena itu, bobot akan menyatu dengan nilai rata-rata dari output yang diinginkan untuk paling cocok dengan pasangan input-output (x-T)
6. Jaringan Propagasi Counter Gabungan
lapisan Grossberg dilatih untuk menyatu dengan keluaran (T) yang diinginkan sedangkan lapisan Kohonen dilatih untuk menyatu dengan input rata-rata. Oleh karena itu, lapisan Kohonen pada dasarnya adalah sebuah pra-klasifikasi untuk memperhitungkan input yang tidak sempurna, lapisan Kohonen tidak diawasi sementara lapisan Grossberg diawasi.
Jika vektor target m Tj (dari dimensi p) secara bersamaan diterapkan pada output m x p di sisi output dari lapisan Grossberg untuk memetakan neuron Grossberg maka setiap set neuron Grossberg p akan menyatu dengan input target yang sesuai, mengingat x input terdekat sedang diterapkan pada input layer Kohonen pada saat itu. Istilah Counter-Propagation (CP) disebabkan oleh aplikasi input dan target ini di masing-masing ujung jaringan.
7. studi Kasus Jaringan Propagasi Counter : Pengenalan Karakter
7.1 Pengantar
Studi
kasus ini berkenaan dengan mengenali tiga digit "0", "1",
"2" dan "4". Dengan menggunakan jaringan saraf Counter
Propagation (CP). Ini melibatkan merancang jaringan CP, melatihnya dengan set
data standar (8-oleh-8); menguji jaringan menggunakan data uji dengan kesalahan
1, 5, 10, 20, 30, 40-bit dan mengevaluasi kinerja pengenalan.
7.2 Struktur Jaringan
Struktur
CP umum
Sebuah desain berbasis MATLAB didirikan untuk membuat jaringan default:
Contoh: Untuk menciptakan jaringan CP dengan 64-input-neuron, 4-Kohonen-neuron, dan 3-Grossberg-neuron:
%%
Example:
% neuronNumberVector = [64 4 3]
%% use:
%% cp = createDefaultCP(neuronNumberVector);
%
(A) set Pelatihan Data
Kumpulan data pelatihan diterapkan pada jaringan CP adalah sebagai berikut:
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%% 2
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
classID = 0;
classID = classID + 1;
trainingData(1).input = [. . .
-1 -1 -1 -1 -1 -1 -1 -1; : : :
-1 -1 -1 -1 -1 -1 -1 -1; : : :
1 1 1 1 1 -1
-1 1; : : :
1 1 1 1 -1 -1
1 1; : : :
1 1 1 -1 -1
1 1 1; : : :
1 1 -1 -1 1 1 1 1; : : :
1 -1 -1 -1 -1 -1 -1 -1; : : :
1 -1 -1 -1 -1 -1 -1 -1 : : :
];
trainingData(1).classID = classID;
trainingData(1).output = [0&1 0];
trainingData(1).name = `2';
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%% 1
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
classID = classID + 1;
trainingData(2).input = [. . .
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1; : : :
1 1 1 -1 -1 1 1 1 : : :
];
trainingData(2).classID = classID;
trainingData(2).output = [0 0 1];
trainingData(2).name = `1';
(B) Pengaturan Bobot :
(1) Dapatkan semua vektor data training Xi, i = 1,2. . . L
(2) Untuk setiap kelompok vektor data milik kelas yang sama, Xi, i = 1,2. . . N.
(A) Menormalkan setiap Xi, i = 1,2. . . N, Xi0 = Xi / sqrt
(ΣX2j)
(B) Hitunglah rata-rata vektor X = (ΣXj 0) / N
(C) Menormalkan rata-rata vektor X, X0 = X / sqrt (X2)
(D) Mengatur sesuai bobot Kohonen
Neuron ini Wk = X
(E) Mengatur bobot Grossberg [W1kW1k. . . W1K] ke vektor
output Y
(3) Ulangi langkah 2 sampai setiap kelas data pelatihan disebarkan ke jaringan.
Test mode
Tes kumpulan data yang dihasilkan oleh prosedur, yang menambahkan kesalahan jumlah bit tertentu dengan aslinya kumpulan data training. Dalam studi kasus ini, prosedur random digunakan untuk melaksanakan fungsi ini.
Example:
testingData = getCPTestingData(trainingData, numberOfBitError, numberPerTrainingSet)
dimana parameter, “numberOfBitError”, adalah untuk menentukan jumlah yang diharapkan dari bit kesalahan; “NumberPerTrainingSet” adalah untuk menentukan ukuran yang diharapkan dari pengujian kumpulan data. Dan diharapkan pengujian kumpulan data didapat oleh parameter output “TestingData”.
Results and conclusions
A) tingkat Sukses vs kesalahan bit
Dalam percobaan ini, jaringan CP dengan 64-masukan,
4-Kohonen-neuron, dan 3-Grossberg-neuron yang digunakan. Tingkat keberhasilan
ditabulasi sebagai berikut:
B) Kesimpulan
(1) Jaringan CP adalah kuat dan cepat.
(2) jaringan CP memiliki tingkat keberhasilan yang tinggi
bahkan jika dalam kasus kesalahan bit yang besar.
Tidak ada komentar:
Posting Komentar