3. Linear Discriminant Analysis (LDA) LDA adalah metode yang umum digunakan dalam analisis data yang memiliki label kelas. Tujuan dari LDA adalah untuk mencari transformasi linier yang memaksimalkan pemisahan antar kelas dalam data, sambil mempertahankan informasi diskriminatif. Dengan menggunakan LDA, kita dapat memproyeksikan data ke ruang fitur yang lebih rendah dimensi yang memaksimalkan kelompok kelas yang terpisah.

Saat menggunakan LDA, diasumsikan bahwa input data mengikuti Distribusi Gaussian (seperti dalam kasus ini), oleh karena itu menerapkan LDA ke data bukan Gaussian mungkin dapat menyebabkan hasil klasifikasi yang buruk.

Dalam contoh ini, bentuk sederhana dalam pengimplementasian LDA :

4. t-distributed Stochastic Neighbor Embedding (t-SNE) t-SNE adalah metode yang populer untuk memvisualisasikan data dengan dimensi tinggi dalam bentuk yang lebih rendah dimensi. Metode ini memodelkan probabilitas distribusi jarak antara pasangan data di ruang tinggi dan rendah dimensi, sehingga data yang memiliki hubungan dekat dalam ruang tinggi tetap dekat dalam ruang rendah dimensi. t-SNE cenderung mempertahankan struktur jarak lokal yang kompleks dalam data.

Contoh implementasi t-SNE adalah sebagai berikut :

5. Autoencoder (AE) AE adalah arsitektur jaringan saraf tiruan yang digunakan untuk belajar representasi fitur data secara otomatis. Autoencoder terdiri dari dua komponen utama, yaitu encoder dan decoder. Encoder mengubah data asli menjadi representasi fitur yang lebih rendah dimensi, sedangkan decoder berusaha merekonstruksi data asli dari representasi fitur tersebut. Dengan melatih AE untuk merekonstruksi data asli, kita dapat memaksa model untuk mempelajari fitur-fitur yang paling informatif dalam data.

Berikut adalah contoh program sederhana menggunakan library Keras untuk membuat Autoencoder:

Dalam contoh di atas, X_train dan X_test adalah data latih dan data uji yang telah diproses sebelumnya. Dalam kasus ini, Autoencoder digunakan untuk merekonstruksi data asli (X_train) dan kemudian representasi fitur yang dihasilkan (X_encoded) dapat digunakan untuk tugastugas lain seperti klasifikasi atau visualisasi.

Keuntungan dan Kekurangan Feature Extraction

Dalam menggunakan ekstraksi fıtur, banyak beberapa keuntungan dan kerugiannya nih stupenss!! Kira-kira apa saja ya? Nah kita simak nih berikut :

Keuntungan

•   Mengurangi dimensi data

Feature extraction membantu mengurangi dimensi data dengan mengidentifikasi fltur-fltur penting yang merepresentasikan data şecara ringkas. Hal ini dapat mempercepat proses analisis dan mengurangi kompleksitas perhitungan.

•   Meningkatkan relevansi informasi

Dengan mengekstraksi fltur yang paling relevan, feature extraction memungkinkan fokus pada informasi yang paling signifikan. Fitur-fitur ini dapat membantu dalam pemisahan kelas atau pola-pola yang ada dalam data.

•   Memudahkan pemrosesan dan analisis data

Dengan mereduksi dimensi data dan mendapatkan representasi fıtur yang lebih sederhana, feature extraction membuat proses pemrosesan dan analisis data menjadi lebih efısien dan mudah diinterpretasikan.

•   Meningkatkan kinerja model

Dengan menggunakan fıtur-fıtur yang relevan dan informatif, feature extraction dapat meningkatkan kinerja model dengan menghilangkan kebisingan atau fıtur-fıtur yang tidak signifıkan.

Kerugian

•   Informasi yang h İlang

Pada beberapa kasus, feature extraction dapat menghilangkan informasi yang penting dari data asli. Proses pengurangan dimensi dapat menyebabkan kehilangan detaİl yang mungkin penting dalam beberapa aplikasi.

•   Sensitivitas terhadap noise

Jika data asli mengandung noise atau gangguan, teknik feature extraction dapat menjadi sensitif terhadap gangguan tersebut dan menghasilkan fltur-fitur yang tidak diinginkan atau mengaburkan pola-pola yang sebenarnya.

•   Ketergantungan pada representasi fitur

Performa model bergantung pada representasi fltur yang diberikan. Jika fitur-fitur yang diekstraksi tidak mencerminkan dengan baİk data asli, maka kinerja model dapat terpengaruh.

•   Kompleksitas implementasi

Beberapa teknik feature extraction, seperti Independent Component Analysis (ICA), dapat melibatkan proses komputasi yang kompleks dan memerlukan pemahaman yang mendalam tentang algoritma dan matematika yang mendasarinya.

Memilih Teknik yang Sesuai

Dalam mengimplementasikan Feature Extraction, kita harus mempertimbangkan beberapa hal agar fitur yang kita gunakan dapat bekerja maksimal sesuai dengan bentuk data yang diproses guys. Nah, simak materi di bawah ini yaa untuk mengetahuinya lebih detail!

•   Pertimbangkan karakteristik data

Pilih teknik feature extraction yang sesuai dengan karakteristik data, seperti apakah data tersebut berupa citra, şuara, atau data numerik. Setiap jenİs data mungkin memerlukan pendekatan yang berbeda.

•   Evaluasi kinerja

Uji dan evaluasi kinerja berbagai teknik feature extraction pada data latihan dan validesi untuk melihat mana yang memberikan hasil terbaik dalam memenuhi tujuan analisis atau tugas yang diberikan.

•   Pertimbangkan kompleksitas komputasi

Pertimbangkan tingkat kompleksitas implementasi dan waktu komputasi yang diperlukan Oleh setiap teknik. Pilih teknik yang sesuai dengan sumber daya yang tersedia.

•   Konsultasi dengan ahli

Jika memungkinkan, konsultasikan dengan ahli atau pakar di bidang feature extraction untuk memperoleh saran dan panduan yang lebih rinci sesuai dengan kebutuhan spesifik.

Dengan memahami konsep dasar feature extraction, penerapan teknik-teknik yang tepat, implementasi algoritma dan model, serta kemampuan menganalisis keuntungan dan kerugian dari setiap teknik, kalian akan dapat mengembangkan pemahaman yang kuat dalam bidang ini dan dapat memilih teknik feature extraction yang paling sesuai untuk permasalahan yang diberikan nih stupens!! Selanjutnya jangan lupa kerjakan QUIZ dan tugas hari ini yaaa!!

Studi Kasus

Berdasarkan dengan materi tersebut, buatlah implementasi algoritma PCA untuk melakukan feature extraction pada dataset tersebut, kemudian melatih model pengenalan wajah menggunakan K-nearest neighbors (KNN). Selanjutnya, evaluasilah kinerja model dengan menggunakan metrik akurasi.