عنوان رویداد:
پانزدهمین سمینار احتمال و فرایندهای تصادفی
برگزار شده توسط:تاریخ برگزاری : 08 شهريور 1404
عنوان مقاله:
Rethinking Uncertainty Measures: Replacing Entropy with Extropy in Learning Algorithms
نویسندگان:
سمیه ابوالحسینی، محمد خراشادی طاده، مجید چهکندی
دانلود فایلThis paper investigates replacing entropy with extropy as the impurity measure in decision tree algorithms. Decision trees are widely used and interpretable machine learning models that recursively partition data based on features to create hierarchical decision rules. Impurity measures such as entropy and the Gini index play a key role in selecting the best feature and split point at each node. Extropy, a newer measure focusing on the probability of error rather than uncertainty, has been proposed as an alternative to entropy. Using the Iris dataset, the performance of decision trees constructed with entropy, extropy, and the Gini index was compared. Results showed that the entropy-based tree achieved the highest accuracy of approximately 97.78%, while extropy- and Gini-based trees both attained similar accuracies around 93.33%. The performance difference between entropy and Gini is generally small, and due to its computational efficiency, the Gini index is often preferred in practical applications. Extropy, with its focus on error probability, demonstrated competitive performance close to Gini and can serve as a suitable alternative in scenarios where error-focused impurity assessment is desirable.
Decision tree, Extropy, Entropy, Gini Index.
برای لینکدهی به این مقاله از آدرس زیر استفاده نمایید:
برای ارجاع در منابع از عبارت زیر استفاده کنید:
ابوالحسینی، سمیه، خراشادی طاده، محمد، چهکندی، مجید، 1404، Rethinking Uncertainty Measures: Replacing Entropy with Extropy in Learning Algorithms، پانزدهمین سمینار احتمال و فرایندهای تصادفی، https://conference.uok.ac.ir/fa/archive_index.php?c=HN-spsp15&aid=1518071
دیگر مقالات این رویداد:
- مدلسازی تصادفی با ترکیبهای میانگین-واریانس نرمال: چارچوبی استوار مبتنی بر مدلهای خطی تخصصی برای دادههای سانسور شده در یادگیری ماشین
طاهره منوچهری، علیرضا نعمت اللهی
- بررسی پایداری و همگرایی یک طرح تفاضل متناهی برای معادلات دیفرانسیل جزئی تصادفی
مهران نامجو، مهران امینیان، حسین نگارستانی، حسین سلمه ای
- براورد بیزی برای پارامترهای توزیع لیندلی-بور
بهمن تارویردی زاده، سلمان بابایی
- برآورد معیار $ بر اساس رویکرد Copula-GARCH و توزیع GED
فاطمه علیزاده
- برآورد پارامترهای دو توزیع لوماکس نمایی براساس سانسور توأم نوع دو
سهیلا اکبری برگشادی، حسین بیورانی، مریم معروفی
- A Comparison of Maximum Likelihood Estimation and Particle Swarm Optimization for Parameter Estimation in Logistic and Probit Regression Models
سیدمحسن محمدی، رضا اعتصامی، محسن مددی
تماس با ما
ایران، سنندج، بلوار پاسداران، دانشگاه کردستان، معاونت پژوهش و نوآوری
کدپستی: 15175-66177
تلفن: 33624008-087
پست الکترونیک: conference@uok.ac.ir
© کلیه حقوق متعلق به دانشگاه کردستان میباشد. (همایش نگار نسخه 11.0.1 )