Microsoft Word - Pembelajaran Mendalam Vs Model Tradisional_Abdel Hai_Akhir.Bahagian 2

Untuk menyediakan data bagi model pembelajaran mesin, teknik prapemprosesan data berikut telah dilakukan.

Data dan ingatan berkait rapat. Dalam masyarakat moden, kami menerima sejumlah besar maklumat dan data setiap hari, termasuk teks, gambar, video, dll. Cara memproses dan menyusun data ini dengan berkesan memerlukan kami mempunyai ingatan yang kuat.

Di satu pihak, data boleh memberikan kami sokongan memori. Contohnya, apabila kita mempelajari ilmu baharu, kita boleh memahami dan menguasai mata pengetahuan dengan lebih cepat dan lebih baik dengan menghafal data dan fakta yang berkaitan. Kaedah pembelajaran sebegini boleh membantu kita membina ingatan yang kuat dan mengekalkan keupayaan mengawal ilmu untuk jangka masa yang lama.

Sebaliknya, data juga boleh membantu kita melatih dan meningkatkan ingatan. Melalui pelbagai kaedah latihan ingatan, kita boleh menggunakan data secara fleksibel untuk menjalankan latihan ingatan, meningkatkan keupayaan ingatan kita pada tahap tertentu, dan dengan itu lebih menyesuaikan diri dengan pembangunan masyarakat dan keperluan pekerjaan dan kehidupan.

Dapat dilihat bahawa hubungan antara data dan ingatan adalah sangat rapat dan penting. Hanya dengan memproses dan menggunakan data secara aktif dan berkesan, kami boleh menggunakan keupayaan ingatan kami dengan lebih baik dan mencapai hasil yang lebih baik. Oleh itu, kita harus secara aktif merawat hubungan antara data dan ingatan, melakukan latihan dan aplikasi yang berkaitan, dan sentiasa meningkatkan kebolehan kita. Ia boleh dilihat bahawa kita perlu meningkatkan ingatan, dan Cistanche deserticola boleh meningkatkan ingatan dengan ketara, kerana Cistanche deserticola juga boleh mengawal keseimbangan neurotransmitter, seperti meningkatkan tahap asetilkolin dan faktor pertumbuhan. Bahan-bahan ini sangat penting untuk ingatan dan pembelajaran. Selain itu, Daging juga boleh meningkatkan aliran darah dan menggalakkan penghantaran oksigen, yang dapat memastikan otak menerima nutrien dan tenaga yang mencukupi, seterusnya meningkatkan kecergasan dan daya tahan otak.

Klik tahu cara untuk meningkatkan fungsi otak

Ciri kategori ialah satu dikodkan panas; ciri berterusan dan diskret telah dinormalisasi menggunakan teknik pennormalan min-maks,32 ditakrifkan sebagai:

Terdapat bilangan rakaman yang berbeza dalam setiap pertemuan untuk setiap ciri berikut. Oleh itu, nilai statistik berikut telah dikira sebaliknya. Untuk tekanan darah diastolik dan sistolik, kami mengira nilai minimum, maksimum dan min.

Untuk BMI, minimum, maksimum, min, dan pekali varians digunakan. Nilai statistik ini telah dinormalisasi dan digunakan sebagai ciri. Selain itu, bilangan ciri berbeza pada pertemuan disebabkan oleh bilangan ujian makmal, diagnosis dan prosedur yang berbeza. Pertemuan boleh mempunyai pelbagai diagnosis dan/atau kod prosedur atau tiada.

Untuk membetulkan ini dan menyatukan dimensi vektor ciri, teknik perwakilan data berikut digunakan untuk meningkatkan pembelajaran model. Untuk diagnosis dan kod prosedur, kami menggunakan perwakilan pengekodan satu panas, di mana setiap nilai ditetapkan kepada 0 atau 1, menunjukkan sama ada kod adiagnosis/prosedur wujud atau tidak untuk setiap pertemuan. Kami mengubah suai teknik perwakilan data ini sedikit untuk ujian makmal kerana setiap ujian mempunyai hasil yang berkaitan.

Oleh itu, kami menggantikan 1, yang menunjukkan kod wujud, dengan keputusan makmal. Keputusan makmal telah dinormalisasi menggunakan Persamaan 1. Oleh kerana keputusan adalah unit dan ukuran yang berbeza, apabila menormalkan keputusan makmal, kami mempertimbangkan minimum dan maksimum untuk setiap kod makmal secara berasingan. Teknik ini mencipta tatasusunan jarang dimensi tinggi kerana banyak kod unik.
Kemudian, kami menggunakan algoritma Penguraian Nilai Tunggal (SVD) untuk mempelajari pembenaman dan dimensi yang dikurangkan. SVD telah digunakan kerana ia tidak menganggap matriks segi empat sama sebagai input dan lebih baik untuk data yang jarang.33 Ujian makmal telah dikurangkan kepada 50 komponen, prosedur kod dikurangkan kepada 45 komponen, dan kod diagnosis dikurangkan kepada 25komponen.

Komponen yang berbeza telah diterokai dan jumlah nisbah varians diperhatikan untuk menentukan bilangan komponen yang optimum untuk mengurangkan dimensi. Semua ciri telah digabungkan dalam vektor ciri untuk setiap pertemuan. SVD telah digunakan pada setiap pertemuan secara berasingan untuk mengurangkan dan menyatukan dimensi; dimensi pertemuan dikurangkan kepada 50 ciri setiap pertemuan.

Kemudian, kami menggabungkan semua pertemuan untuk pesakit tertentu dalam vektor ciri yang dipesan secara berurutan mengikut tarikh kemasukan. Pengagihan kelas adalah 27,511 pesakit tanpa kemasukan semula (kelas negatif) dan 9,130 ​​pesakit yang diterima semula (kelas positif).

Pendekatan Eksperimen

Kami menjalankan eksperimen yang meluas menggunakan data EHR untuk menangani objektif berikut:

- Ramalkan sama ada pesakit diabetes akan diterima semula dalam tempoh 30 hari

- Bandingkan prestasi kaedah DL yang digunakan dengan beberapa model tradisional

- Analisis berapa banyak pertemuan sebelumnya (iaitu, data sejarah) dalam tempoh 2 tahun adalah optimum untuk meramalkan penerimaan semula

- Nilaikan kesan menggabungkan semua ujian makmal dalam data berbanding pembelajaran daripada subset ujian yang dipilih oleh pakar domain

Dalam kajian ini, model DL mengambil sebagai input 3-3-tensor dimensi � x � x � untuk mewakili ciri f bagi setiap pertemuan untuk pesakit p. Sebaliknya, dalam model tradisional, data lazimnya diwakili sebagai 2-matriks dimensi, dengan semua ciri semua pertemuan sepadan dengan pesakit tunggal digabungkan dalam vektor ciri panjang.

Dimensi bagi setiap pertemuan telah dikurangkan dan disatukan kepada 50 ciri, oleh itu, dalam model yang mendalam � adalah bersaiz 50. Dalam vektor ciri model tradisional terdiri daripada semua pertemuan dan oleh itu bersaiz � x 50.

Pesakit mempunyai bilangan pertemuan yang berbeza yang mengakibatkan dimensi tidak seragam; oleh itu, vektor ciri telah dipadatkan dengan 0s untuk mencapai bentuk bersatu. Perwakilan data yang digunakan sebagai input untukDL dan model tradisional digambarkan pada panel kiri dan kanan Rajah 1, masing-masing.
Untuk memodelkan data jujukan heterogen, kami membangunkan 2 varian model DL dan membandingkan kedua-duanya berbanding beberapa model tradisional yang digunakan sebagai garis dasar. Model DL yang digunakan dalam kajian kami ialah: 1) 1-rangkaian Memori Jangka Pendek Panjang (LSTM), yang merupakan varian Rangkaian Neural Berulang (RNN) yang mampu mempelajari data tak berurutan pergantungan tertib32; dan 2) Unit Berulang Berpagar Dua Arah (GRU), yang merupakan satu lagi varian RNN.

Model tradisional yang digunakan sebagai garis dasar ialah: 1) Hutan Rawak (RF), kaedah ensemble untuk pengelasan dan regresi; semasa latihan, ia membina pelbagai pokok keputusan; 30 RF kerap mencapai prestasi terkini dalam literatur sedia ada mengenai ramalan menggunakan data perubatan. 2) Multi-layer Perceptron (MLP), model rangkaian saraf ringkas yang tidak mengambil kira maklumat temporal.

MLP terdiri daripada berbilang lapisan perceptron, melaksanakan pembelajaran perambatan balik dan menggunakan fungsi pengaktifan bukan linear.31 3) Regresi Logistik (LR), model boleh tafsir yang kerap digunakan dalam literatur sedia ada ramalan penerimaan semula dan digunakan pada data perubatan; dan 4) AdaBoost, yang kurang terdedah kepada overfitting kerana parameter inputnya tidak dioptimumkan secara bersama.

Model DL telah dilaksanakan menggunakan perpustakaan Python "Keras", API peringkat tinggi "TensorFlow". Pustaka "Scikit-learn" telah digunakan untuk melaksanakan model tradisional dalam Python.

Seni bina model yang dicadangkan, LSTM, terdiri daripada 128 neuron, lapisan berjujukan, lapisan bentuk semula yang digunakan untuk membentuk semula input kepada 3-tensor dimensi dan lapisan pelindung dengan nilai topeng 0 digunakan untuk melangkau langkah masa yang datanya tiada.

Memandangkan padding dengan 0s dilakukan untuk menyatukan dimensi, maskinglayer telah digunakan untuk mengelakkan sebarang pengiraan dengan nilai yang hilang dalam semua lapisan berikutan lapisan masking, justeru, nilai yang hilang tidak diambil kira semasa pembelajaran.

Selain itu, keciciran telah ditambah antara lapisan tersembunyi dan output. Menggunakan teknik ini untuk memilih peratusan tertentu untuk digugurkan secara rawak, ialah teknik regularisasi biasa yang membantu model dalam mempelajari corak umum dalam data.

RNN ialah varian rangkaian saraf, yang terdiri daripada neuron tersembunyi yang mampu menganalisis data EHR temporal.32 RNN terdiri daripada struktur yang sama seperti rangkaian saraf asas, tetapi neuron dalam lapisan yang sama disambungkan, membenarkan neuron belajar daripada yang sama. lapisan jiran, di samping belajar daripada output lapisan sebelumnya dan data input. Oleh itu, neuron RNN termasuk dua sumber input, masa kini, dan masa lalu baru-baru ini. Proses pembelajaran ditakrifkan sebagai:

Untuk mengira nilai �" neuron tersembunyi, �, fungsi transformasi bukan linear, ReLU, digunakan pada nilai � wajaran neuron tersembunyi kirinya �"#$ dan nilai � wajaran inputnya �".

Ramalan dikira menggunakan fungsi asigmoid bagi jumlah � wajaran semua neuron tersembunyi dengan pincang tambahan �. Kelemahan RNN ialah ia mengalami masalah kecerunan yang hilang, bermakna pemberat kekal tidak berubah menyukarkan model untuk menumpu, justeru, model bergelut untuk belajar.

Untuk menyelesaikannya, lapisan LSTM telah diperkenalkan di mana sigmoidneuron RNN digantikan dengan struktur ingatan jangka pendek yang lebih kompleks. LSTM berkongsi pemberat yang sama merentas lapisan, yang mengurangkan bilangan parameter yang dikira oleh rangkaian.

GRU ialah penyelesaian alternatif untuk masalah kecerunan yang hilang. Ia menggantikan neuron ringkas dengan unit berpagar, yang mempunyai parameter yang lebih sedikit daripada neuron LSTM kerana ia tidak mempunyai pintu keluar.33

For more information:1950477648nn@gmail.com