Facial Expression Recognition Dengan Pemodelan Berbasis CNN Pada Wajah Bermasker

Authors

  • Ahmad Maulana Indidharmanto Telkom University
  • Aditya Firman Ihsan Telkom University
  • Mahmud Dwi Sulistyo Telkom University

Abstract

Pandemi Covid-19 yang telah menyebabkan
penggunaan masker wajah menjadi hal yang umum di
masyarakat sebagai upaya untuk mencegah penyebaran virus.
Namun, hal ini menimbulkan tantangan baru dalam
pengenalan ekspresi wajah atau Facial Expression Recognition
(FER). Facial Expression Recognition digunakan untuk
memahami bagaimana manusia berperilaku, sehingga
membantu dalam strategi pencegahan penyebaran virus dan
menghilangkan halangan manusia untuk saling bersosialisasi
walau dalam keterbatasan. Dalam hal keamanan, dapat
dimanfaatkan untuk membedakan orang yang memiliki intensi
buruk dibalik ekspresi yang tertutup masker. Kekurangan yang
ada pada Facial Expression Recognition saat ini yaitu
terbatasnya pendeteksian berbagai macam jenis ekspresi
dikarenakan hilangnya informasi penting dari area mulut dan
hidung yang tertutup masker. Penelitian ini bertujuan untuk
menemukan model arsitektur Convolutional Neural Network
(CNN) dengan akurasi dalam beberapa ekspresi seperti
bahagia, marah, sedih, netral, dan terkejut. Penelitian ini
mengevaluasi performa tiga model, yaitu ResNet50, Emotion
Ensemble Model, dan VGG19. ResNet50 menunjukkan
performa dengan akurasi 89.51%, Emotion Ensemble Model
dengan akurasi 82.49%. Sementara itu VGG19 mencapai
akurasi 72.44%. Kontribusi utama penelitian ini adalah
pengembangan ensemble yang cukup akurat pada dataset
dengan variasi tinggi, serta analisis terhadap keunggulan dan
kelemahan setiap model. Membantu mengenal pemilihan
arsitektur model yang tepat untuk pengenalan ekspresi berbasis
citra pada kondisi terbatas.

Kata kunci— facial expression recognition, convolutional
neural network, ResNet50, masker wajah, deep learning,
Masked-Fer2013

References

Yang, B., Wu, J., & Hattori, G. (2021, September 19).

Face Mask Aware Robust Facial Expression Recognition

During The Covid-19 Pandemic.

https://doi.org/10.1109/icip42928.2021.9506047

ELsayed, Y., Elsayed, A E M., & Abdou, M A. (2023,

April 1). An automatic improved facial expression

recognition for masked faces. Springer Science+Business

Media, 35(20), 14963-14972.

https://doi.org/https://doi.org/10.1007/s00521-023-08498-w

Küntzler, T., Höfling, T T A., & Alpers, G W. (2021, May

. Automatic Facial Expression Recognition in Standardized

and Non-standardized Emotional Expressions. Frontiers

Media, 12.

https://doi.org/https://doi.org/10.3389/fpsyg.2021.627561

Huang, B., Wang, Z., Wang, G., Jiang, K., He, Z., Zou,

H., & Zou, Q. (2021, October 1). Masked Face

Recognition Datasets and Validation.

https://doi.org/https://doi.org/10.1109/iccvw54120.2021.001

Niu, B., Gao, Z., & Guo, B. (2021, January 12). Facial

Expression Recognition with LBP and ORB Features.

Hindawi Publishing Corporation, 2021, 1-10.

https://doi.org/https://doi.org/10.1155/2021/8828245[6] Pazhoohi, F., Forby, L., & Kingstone, A. (2021). Facial

masks affect emotion recognition in the general population

and individuals with autistic traits. Plos One, 16(9),

e0257740. https://doi.org/10.1371/journal.pone.0257740

Thomas, L., Castell, C., & Hecht, H. (2022). How facial

masks alter the interaction of gaze direction, head orientation,

and emotion recognition. Frontiers in Neuroscience, 16.

https://doi.org/10.3389/fnins.2022.937939

McCrackin, S., Capozzi, F., Mayrand, F., & Ristic, J.

(2021). The influence of face masks on emotion recognition

and the role of individual differences..

https://doi.org/10.31234/osf.io/dx94v

Tegani, S., & Abdelmoutia, T. (2021). Using COVID-19

Masks Dataset to Implement Deep Convolutional Neural

Networks For Facial Emotion Recognition. 2021 4th

International Symposium on Advanced Electrical and

Communication Technologies (ISAECT), 1-5.

Bodavarapu, P. and Srinivas, P. (2021). Facial

expression recognition for low resolution images using

convolutional neural networks and denoising techniques.

Indian Journal of Science and Technology, 14(12), 971-983.

https://doi.org/10.17485/ijst/v14i12.14

Dhivyaa, C., Dhivyaa, K., Nithya, K., & Karthika, S.

(2022). Multi-feature integrated concurrent neural network

for human facial expression recognition. 網際網路技術學刊

, 23(6), 1263-1274.

https://doi.org/10.53106/160792642022112306009

Raji, I., Bello-Salau, H., Umoh, I., Onumanyi, A.,

Adegboye, M., & Salawudeen, A. (2022). Simple

deterministic selection-based genetic algorithm for

hyperparameter tuning of machine learning models. Applied

Sciences, 12(3), 1186. https://doi.org/10.3390/app12031186

Published

2025-06-23

Issue

Section

Prodi S1 Informatika