Proses Pembelajaran Jaringan Syaraf Tiruan (ANN) – Hebbian


Sejarah Jaringan Hebbian

Postulat pembelajaran Hebb adalah aturan pembelajaran yang paling tua dan paling terkenal dari semua aturan pembelajaran; dinamakan Hebbian karena penemunya adalah seorang neuropsikolog Donald Hebb (1949). Dalam bukunya The Organization of Behaviour (1942,p.62) :

Ketika axon dari sel A cukup dekat pada sel B dan selalu dilakukan pengarahan secara berulang dan terus-menerus, maka beberapa proses pertumbuhan atau perubahan metabolism akan terjadi dalam satu atau dua sel bahwa efisiensi A sebagai satu sel yang mengarah ke B akan meningkat.

Hebb mengusulkan perubahan ini sebagai basis dari assosiative learning (pada level cellular), dimana hasil dalam modifikasi besar dalam pola aktivitas yang terdistribusi secara spasial “assemble of nerve cells”.

Pernyataan ini dibuat dalam konteks neurobiologist, kemudian dinyatakan kembali dengan dua aturan (Stent, 1973; Changeux dan Danchin, 1976) :

  1. Jika dua neuron yang dihubungkan dengan synaptic secara serentak menjadi aktif (sama-sama bernilai positif atau negatif) maka kekuatan synapticnya meningkat.
  2. Jika kedua neuron aktif secara tidak sinkron (salah satu bernilai positif dan yang lain bernilai negatif) maka kekuatan synaptic akan melemah.

Contoh komputasi Jaringan Hebbian

Gambar 2.2 Jaringan syaraf model Hebbian dengan neuron tunggal

Catatan : wk0 = bk = b akan dipergunakan dalam buku ini untuk menyatakan bobot bias.

Arsitektur jaringan Hebbian dapat dilihat pada Gambar 2.2. Dari gambar tersebut dapat dilihat bahwa jaringan Hebbian ini merupakan tipe pembelajaran feedforward (maju) dengan paradigma pembelajaran tidak terawasi (unsupervised). Sinyal error r sama dengan keluaran yk. Sedangkan inisialisasi bobot wk diberi nilai awal 0.

Maka sinyal error/sinyal pembelajaran pada jaringan ditentukan oleh :

r = F(vk)

(2.6)

Mengacu pada persamaan (2.3) Sedangkan bobot synaptic wk setelah tahap pelatihan akan berubah sebesar Dwkm = h ek xm. Dengan mengganti ek dengan r maka :

Dwkm = h F(vk) xm

(2.7)

Penulisan diatas dapat disingkat menjadi :

Dwkm = h yk xm ; j = 1,2,3, …

(2.8)

Sedangkan bobot baru ntuk tahapan pelatihan berikutnya menjadi :

wkm (t + 1) = wkm (t) + h yk xm ; j = 1,2,3, …

(2.9)

Jaringan Hebbian juga dapat diterapkan untuk pada paradigm pembelajaran terawasi (supervised) dengan memberikan target output sebagai target yang harus dicapai pada tahap pembelajaran. Sinyal pembelajaran yang digunakan adalah :

r = dk

(2.10)

Sehingga untuk perubahan bobot synaptic dapat diformulasikan dengan :

Dwkm = h dk xm ; j = 1,2,3, …

(2.11)

Sedangkan bobot baru diformulasikan :

wkm (t + 1) = wkm (t) + h dk xm ; j = 1,2,3, …

(2.12)

2.1.1 Contoh Jaringan Hebbian

Contoh 2‑1

Sebuah jaringan Hebbian neuron tunggal dengan pembelajaran terawasi untuk menyelesaikan fungsi logika AND dengan empat vektor, dua masukan (x1, x2). Target yang diinginkan adalah fungsi logika AND, bias digunakan untuk membantu penyelesaian dengan masukan +1. Laju pelatihan diasumsikan bernilai 1 (tidak ada pengaruh besar laju pembelajaran dijaringan ini). Bobot awal diberi nilai nol (0).

(a)    Masukan dan target menggunakan data biner

masukan

target

x1

x2

bias

1

1

1

1

1

0

1

0

0

1

1

0

0

0

1

0

Fungsi aktivasi yang digunakan adalah fungsi threshold biner dengan ketentuan :

y = sgn(v) = 1; net ≥ 0

y = sgn(v) = 0; net < 0

(b)   Masukan menggnakan data biner dan target menggunakan data bipolar

masukan

target

x1

x2

bias

1

1

1

1

1

0

1

-1

0

1

1

-1

0

0

1

-1

Fungsi aktivasi yang digunakan adalah fungsi threshold bipolar dengan ketentuan :

y = sgn(v) = 1; net ≥ 0

y = sgn(v) = -1; net < 0

(c)    Masukan dan target menggunakan data bipolar

masukan

target

x1

x2

bias

1

1

1

1

1

-1

1

-1

-1

1

1

-1

-1

-1

1

-1

Fungsi aktivasi yang digunakan adalah fungsi threshold bipolar dengan ketentuan :

y = sgn(v) = 1; net ≥ 0

y = sgn(v) = -1; net < 0

Lakukan pelatihan dan uji cobalah jaringan yang sudah dilatih dengan vektor input saat pelatihan dan cocokkan hasilnya, kemudian berikan kesimpulan.

Dokumen lengkap beserta penyelesaian contoh dapat didownload : …….. kontak dengan author untuk minta link downloadnya😀

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s

%d bloggers like this: