border=0

Betingske entropy

Lit de entropy fan in kompleks eksperimint α ^ β fine yn it gefal as de eksperiminten net selsstannich binne, d. As it resultaat fan β beynfloede wurdt troch it resultaat fan it eksperimint α. Bygelyks, as yn in fakje allinich twa meardere kleuren en α bestiet út it útfieren fan 'e earste, en β - it twadde fan har, en dan folslein de uncertainty fan' e komplekse ûnderfining α ^ β, f. It docht bliken dat H (α ^ β) = H ( α ), mar net de som fan 'e entropy, as fan (2.5).

De ferbining tusken α en β is dat guon fan 'e útkomsten fan A ( α ) ynfloed kinne op de resultaten fan B ( β ) , d. guon pairs fan eveneminten A i ^ B j binne net ûnôfhinklik. Mar dan moat yn (2.6) p (A i ^ B j ) net ferfongen wurde troch it produkt fan kâns, mar, neffens (A.14):

dêr't - p Ai ( B j ) de probabiliteit fan 'e útkomst fan' e útkomst B, as dat yn it earste eksperimint in útkomst wie.

Dan

As substitút yn (2.6) krije wy:

Yn 'e earste termyn is de yndeks j allinich yn B ; It feroarjen fan de folchoarder fan 'e gearkomste krije de leden fan' e foarm:

Wetter - Agrarwetter

sûnt

biedt in betrouber evenemint (elk fan 'e útkomsten fan it eksperimint β wurdt noch realisearre). Dêrom is it earste addend lykwols:

Op de twadde termyn binne leden fan 'e foarm

Entropy fan eksperimint β is betsjuttend ûnder de betingst dat yn it eksperimint de útkomst А i realisearre wurdt - wy sille it bedoeldyn entropy neame . As wy dizze konsept ynstelle en gebrûk meitsje, dan sil de twadde termyn wêze:

dêr't H α (β) de gemiddelde betingsk entropy fan eksperimint β is, as it eksperiminteel α erfolle wurdt. Uteinlik krije wy foar de entropy fan in komplekse ûnderfining:

De resultaat ekspresje is in algemien regel foar it finen fan de entropy fan in komplekse ûnderfining. It is dúdlik dúdlik dat ekspression (2.5) in spesjale gefal fan (2,10) is ûnderwerp fan 'e ûnôfhinklikens fan eksperiminten α en β.

As betingst fan betingsten entropy, kinne de folgjende útspraken makke wurde:

1. Betingjende entropy is net-negative. H α (β) = 0 allinich as ien útkomt in folslein bepaalt de útkomst fan β (lykas yn it foarbyld mei twa ballen), d.

Yn dit gefal binne H ^ (β) = H (α).

2. As eksperiminten α en β ûnôfhinklik binne, dan is H α (β) = H (β), en dit soarget foar de grutste wearde fan 'e bedoelde entropy. Mei oare wurden, ûnderfining α kin de ûnwissichheid fan 'e ûnderfining β net ferheegje; It kin no gjin effekt hawwe (as de eksperiminten selsstannich binne) of de entropy β ferleegje.

Dizze ferklearrings kinne kombineare wurde mei ien inkele ungemienheid:

i.e. betingsten entropy bestiet net sûnder bedoeld.

3. Fan relaasjes (2.10) en (2.11) folget dat

De gelikensens wurdt allinich realisearre as de eksperiminten α en β ûnôfhinklik binne.





Sjoch ek:

It effekt fan lûd op 'e kanaalbandbreedte

Computer kodearring en ferwurking fan echte nûmers

Kompjûterkodearring en ferwurking fan net-oardene intekeningen

Besykje fragen en taken

Referinsjes

Gean werom nei Tafel Ynhâld: Teoretyske Stiftingen fan Computer Science

2019 @ bibinar.info