نبذه مختصره عن Bayesian Belief Network

[زوار]

السلام عليكم ،،

Bayesian Belief Network او Bayesian Network او Belief Network

هي طريقه للتعامل مع الuncertainty عن طريق ال Probability Theory (تعتبر احد الProbabilistic Graphical Models)

( الuncertainty هي الحاله عندما يكون البرنامج، الروبوت او الانسان عازم على اتخاذ قرار و ليس لديه كامل التصورات عن البيئه المحيطه فيه )

ال BN هي ببساطه Directed Acyclic Graph DAG (قراف ذو اتجاه ولا فيه دائره) حيث ان

الNodes تمثل المتغيرات variable or decision variable

الarcs or arrows تمثل ال dependency بين مختلف المتغيرات..

تقدر تشوف الBN على انها DAG حيث ان السهم يذهب من السبب cause الى المتاثر affect

مثلاً Smoking causes Cancer تمثل ب

<Smoking>

|

|

7

<Cancer>

الطريقه التقليديه لاستخدام الBN هي الاستعلام عن احتماليه وقوع حدث معين علماً بان حدث اخر حصل

مثلاً ماهي احتماليه ان يكون المريض مصاب بالسرطان علماً بانه مدخن ؟

P(PatientHasCancer given HeIsSmoker )

P(Cancer|Smoking)

المحاور القادمه :

1- why Probability theory failed in 1960s

2- Conditional Independency notion

3- BN structure

4- Inference and applications

5- Detailed Example

[زوار]

لاادري حقيقة ان كان الكلام الماضي مفهوم او لا :lol:

- why Probability theory failed in 1960s

في الستينات كان AI مجال جديد نسبياً كذلك طرق التعامل مع الUncertainty ، وكطريقه معروفه للتعامل مع الuncertainty حاول كثير من العلماء استخدام الProbability Theory كاداه للتعامل مع الuncertainty من خلال الحاسب.

لكنهم وجدوا ان الProbability theory لاتستطيع تمثيل عديد من المشاكل عندما يكون problem domain كبير ..

مثلاً لتمثيل 100 متغير كل متغير يحوي قيمتين نحتاج الى 2 اس 100 رقم لحساب كل الاحتمالات الوارده في الدومين.. من هنا تركت او بالاصح قل من يتكلم عن الProbability theory كاداه لمعالجة وادارة الUncertainty

الى ان جاء Judea Pearl ( وهو بروفيسور في كاليفورنيا-لوس انجلوس واب لصحفي اليهودي الذي قتل في افغانستان على يد القاعده) وقال ان طريقة استخدام الProbability theory كانت خطا

فبدلاً من ان نستخدمها لتمثيل البيانات مباشرة علينا ان نستخدم مايسمى بConditional Independencyوالتي بدورها ستقلص عدد الارقام او الاحتمالات المطلوبه ..

مثلاً في الصوره , هذه BN تتكون من 4 متغيرات السهم يحدد الdependencies المختلفه .. فمثلاً WetGrass يعتمد على ال Rain & Sprinkler

لاحظ ان عدد الاحتمالات تقلص من 16 الى 9 احتمالات باستخدام CI , سبب تقليص عدد الاحتمالات هو سبب منطقي فمثلاً لايوجد هناك حاجه لمعرفة حالة الغيوم عندما نريد ان نعرف (P(WeGrass=True 

بشكل عام BN تستخدم لتمثيل Joint Probability Distribution وهو جميع الاحتمالات الوارده في الproblem domain .

فنظرية الاحصاء لم تفشل لتمثيل الuncertainty ولكن الطريقه اللتي استخدمت بها نظرية الاحصاء كانت بدائيه ..

طبعاً لم نتطرق الى السبل الاخرى لتمثيل الuncertainty مثل Fuzzy Logic or rule-based وهذه لها مالها وعليها ماعليها :lol:

[Guest ( HASSAN )]

جزاك الله خير اخي الجبيب عيسى .. موضوع جميل .. لي عوده وستناقش ان شاء الله في الموضوع . اكمل بارك الله فيك

ARTIFICIAL INTELLIGENCE AND EXPERT SYSTEMS القي نظره هيك بسيطه على هالرابط بمناسبة Rule based system >>

ومن ثم القي نظره اخرى على هذا الموضوع .. فكره جديه جدا .. ArabTeam2000 Robot

----------

ممتاز اخي الحبيب هناك مثال جميل جدا غالبا ما يدرس لطلاب هذا الموضوع نفس فكرت مثال لكن يعطي متغيرات خارجيه غير حالة cycle

------------------

وهذا المثال المعتاد ايضا :-

I'm at work, neighbor John calls to say my alarm is ringing, but neighbor Mary doesn't call. Sometimes it's set off by minor earthquakes. Is there a burglar?

معنى الجمله :- انا في العمل وجاري جون اتصل ليقول لي ان جرس الانذار (المنبه ) يرن , بينما جارتي ماري لم تبلغني , بعض الاحيان يحصل بسب زلازل حفيفه , يسأل :- هل يوجد سارق ؟

هنا المتغيرات :- Burglary, Earthquake, Alarm, JohnCalls, MaryCalls

هنا نقول :-

السارق يجعل الجرس يرن

الزلزال الطفيفه يجعل الجرس يرن .

المنبه قد يحث ماري للاتصال بي .

المنبه قد يجث جون للاتصال بي .

هنا نقول قد يحث او انه يجعل ؟ هنالك فرق في اللفظ صح

تكملة المثال في المرفقات ..

جزاك الله خير اخي عيسى .. موضوع جميل .. اكمل بوركت ..

m14-bayesian.rar

[alaadiaa 201]

ما الفائدة من هذه الشبكة في الذكاء الصناعي؟

تحياتي

[Guest ( HASSAN )]

ما الفائدة من هذه الشبكة في الذكاء الصناعي؟

باختصار :- تساعد في معالجة البيانات غير المكتمله ووتتعامل معها بكل بساطه لتحقيق افضل النتائج , تساعد في تتبع او ومعرفة العلاقات السببيه (casual relationships) , المساعده في استخدام العلاقات السابقه لاننا نعمل شبكه به متغيرات وعلاقات , من خلال الشبكه اذا تلاحظ الحواف والمتغيرات تستطيع من خلالها استخدام كل البيانات المتاحه واللي يسهل عليك عملبة بناء العلاقات والروابط . وكل هذا لماذا لانه باستخدام ال Bayesian Networks ياخذ بعين الاعتبار المعلومات السابقه بناءا على العلاقات بين الممبزات (features) , والاحتمالات يمكن تحديثها بناءا على النتائج , المميزه المهمه انها سريعه كان تقول قارنها مع learning classification , ويمكنها تجنب الoverfitting في البيانات على عكس ال NN مثلا

[زوار]

السلام عليكم ،،

اهلا علاء وحسان ,

جزاك الله خير اخوي حسان وصفت فايدة الBN بشرح مختصر وجميل ،،

ممكن توضحلي ببساطه الoverfitting وشو هذا .. ماعليش انا جديد بهالامور ولااعرف كثير..

بوركتم :blush:

[Guest ( HASSAN )]

ممكن توضحلي ببساطه الoverfitting وشو هذا .. ماعليش انا جديد بهالامور ولااعرف كثير..

هلابك اخوي .. فيك الخير والبركه .. الoverfitting ببساطه يعني بعض البيانات يكون فيها اخطاء او بيانات مفقوده واللي نعالجها في موضوع ال DATA PREPOSSESSING ال NN طبعا هذي الامور من اعظم المشاكل اللي بتواجهه ال NN اما في موضوعنا هنا فال BN بتتجنب هذه المشاكل لانه في RULES ونسب احتمال تعتبر مستقله اكثر من NN وغالبا ال OVERFITTING تحدث لما يكون في متغيرات كثيره ومعقده لكن اذا زادت هذه الاخطاء والبيانات الناقصه فرح تضعف من قوة الاستنتاج والتوقعات ..

وسلامتك

----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

الرد السابق كان متداخل وما فهمت منه اشي بعد ما قرأته انا :--

جوابي :-

تطبيقات الشبكات العصيونيه تتستخدم لبناء نماذج للبيانات من خلال التقاط اهم المميزات خلال فنرة التمرين ,او بما تسمى في علم الاحصاء ( الاستدلال الاحصائيء) وعندنا في ال NN تسمى data fitting... في ال NN يوجد امر مهم جدا وهو ما يسمى التعميم يعني كيف نقدر نخلي ال NN تستطيع ان تصنف انماط ليست موجوده في عينات التمرين ؟ وهذه مشكلة ال NN التي قد تقع فيها من خلال الابتعاد عن التعميم والوقوع بما يسمى ال overfitting او حتى ال underfitting وتكملت التوضيح مع المثال في مشاركة الاخ علاء التاليه ..

تحياتي

تم تعديل 15 Jul 2011 بواسطه ( HASSAN )
خلط الحابل في النابل .. عذرا

[زوار]

بس عشان ماانسى , هذي بعض المصادر المفيده

المرفقات:

1.pdf مايتضمن اي كلام رياضي او رموز رياضيه recommended

الثاني ملف جميل وسهل الفهم للBN

A Brief Introduction to Graphical Models and Bayesian Networks

http://www.cs.ubc.ca/~murphyk/Bayes/bayes.html

---------------------

10.1.1.41.333.pdf

1.pdf

[alaadiaa 201]

overfitting مفهوم عام في الشبكات العصبية

ويدل على أن الشبكة أصبحت متخصصة بشكل كبير في عينة التعلم

فتجد ان الشكبة أصبحت تعلم أمور دقيقة عن العينة

وهذا قد يبدو للوهلة الأولى جيد

لكن الحقيقة أنه سيء جداً لأن الشبكة لن تستطيع استنتاج نوع النمط في وقت الاستخدام الحقيقي لها

لأنها تعلمت الكثير لدرجة أنها أصبحت وكأنها مصممة لعينة الاختبار

مثال عملي عليها

لو لديك أخ صغير تريد تعليمه مجموعة من الحروف

في كل مرة ترسم له حرف القاف وتقوله لاحظ الحافة كيف تكون لأعلى وكيف أن النقاط يجب أن تكون في منتصف الدائرة

ستجد أنك لو عرض عليه حرف القاف ولكن الحرف معووج الآخر أو النقاط ليست في منتصف الدائرة لن يتعرف عليه

أخي حسان هل يمكنك توضيح الرد الخاص بك

لأن صدقاً لم أستطع الفهم بشكل جيد

لا مشاكل لو وجهتني إلى روابط إنجليزية

تحياتي

[Guest ( HASSAN )]

أخي حسان هل يمكنك توضيح الرد الخاص بك

لأن صدقاً لم أستطع الفهم بشكل جيد

لا مشاكل لو وجهتني إلى روابط إنجليزية

اي احسنت اجابتي كانت متخبطه لاني حاولت ان اذكر اولا المشاكل التي تحدث في NN و منها ال nose data و ,missing و دورها في اضعاف التنبوؤات واللي بتكون بعيده عن عينات التدريب ومن ثم ربطتها في بنفس اللحظه في موضوع ال Overfitting الذي يشكل خطر في انتاج تنبؤات بعيده عن نطاق التدريت ..

ولا انا فهمت ردي لما قريته هسا كمان .. تم تعديل الرد بوركت

تحياتي

[alaadiaa 201]

سلمت على التوضيح الجميل أخي حسان

لكن كيف لي أن أقوم ببناء هذه الشبكة على أرض الواقع؟

هل الأمر بسيط؟

أعذوروني أسئلتي كثيرة وغلبتي كثيرة :)

تحياتي

[Guest ( HASSAN )]

لكن كيف لي أن أقوم ببناء هذه الشبكة على أرض الواقع؟

هل الأمر بسيط؟

هلا فيك ابن العم .. ابسط مثال تشخيص الامراض .. مثلا عافانا واياك الله من ال" cancer " نصنع شبكه من المتغيرات مثل هل هو مدخن او يوجد في تاريخ عائلته مصابين ومراقبة المتغيرات الاخرى المرتبطه بها ومن ثم نبدا computing conditional probability distributions اللي وضحها الاخ عيسى في الاعلى .. على فكره ذكرتني شو الفرقه بينها وبين ال NN ؟ شو رايك انا وانت نعمل نقاش باستخدام سؤال وجواب ؟ عندي شعور انه رح تكون الفائده جميله

ممكن يزعل عيسى ؟ :wink:

تحياتي

[alaadiaa 201]

أفهم من هيك أنه الموضوع مراقبة

ويعتمد في النهاية على إجراء تجارب على قدر عالي من الحيادية والفصل؟

هل هناك أصلاً وجه مقارنة بينهم؟

أنا ما عنديش مشكلة بس أكون على ناحية السؤال دائماً :)

وبعدين ما تقلق عيسى صديق قديم بنراضيه بكودين جافا :lol:

تحياتي