Das Video kommt von YouTube: erst beim Abspielen verbindet sich die Seite mit YouTube (Google).
Was ist Information? --- Informationstheorie (Informatik)
Das Wichtigste aus dem Video
Tipp auf eine Zeit – das Video springt genau dorthin.
Transkriptautomatisch erstellt · 147 Zeilen
- so herzlich willkommen zum video mit diesem video geht es wieder um die informatik grundlagen und zwar wollen wir uns in diesem video einmal mit
- informationen beschäftigen aber auch mit der informationstheorie etwas beschäftigen informationen wo begegnen uns die
- informationen eigentlich als beispiel wenn sie beispielsweise google nutzen um irgendetwas zu recherchieren oder
- irgendeine andere suchmaschine na ja dann sind sie zum beispiel an informationen zu einem bestimmten thema interessiert
- und google wird ihnen dann je nach dem über was sie was suchen oder je nachdem was sie für einschränkungen machen stichwort google befehle liefert es
- ihnen eine entsprechende menge an informationen die dann je nachdem auch brauchbar sein könnten eine andere form von information
- beispielsweise wenn sie sich nachrichten ansehen wenn sie wissen wollen was ist beispielsweise in
- deutschland passiert was ist allgemein auf der welt passiert heute gibt es irgendwas neues dann haben wir die nachrichten die nachrichten bieten ihnen
- dann auch eine entsprechende menge unbezwungen form von informationen ob sie damit diesen informationen auch die wie beispielsweise bei einer
- recherche durch eine suchmaschine geliefert werden oder durch die nachrichten ob sie damit auch wirklich etwas anfangen können ob es braucht
- steht wieder auf einem ganz anderen blatt aber wir begegnen uns zum beispiel information eine andere form wo informationen auch
- eine rolle spielen und was wieder etwas tief greifender ist für die informatik es passte zwar sehr bereich elektronik beziehungsweise gerade die digitale
- elektronik wenn es hier um mikrocontroller und so weiter geht dann den deutschen zeitungen wird auch nichts anderes gemacht als
- informationen entgegen genommen wurde in einer anderen form nicht in form von nachrichten oder in form einer recherche sondern eine an reformen
- werden hier informationen entgegen genommen und die werden dann entsprechend verarbeitet das ist auch ein etwas
- ein bereich der informatik wo das auch eine gewichtige rolle spielt aber natürlich auch später bereich der softwareentwicklung
- wenn es zum beispiel gut geht programme zu schreiben die eine menge von informationen irgendeiner form entgegen nehmen das
- ganze einfach das ganze entsprechend zu erarbeiten sollen in eine entsprechende ausgabe inkl hier treten also informationen auf jetzt
- kommen wir mal zu der frage was ist eine information überhaupt da wir sprechen einfachen informationen auch im alltäglichen leben aber genau damit
- beschäftigt haben wir uns nicht an information ist per definition nichts anderes als eine antwort auf eine frage diesen satz sollten sie sich gut merken
- und eindrücken eine information ist per definition nichts anderes als eine antwort auf eine frage beispiel
- die wird morgen das wetter das könnte zum beispiel eine frage sein wenn sie den wetterbericht sich ansehen beispielsweise über das internet oder im
- radio hören oder im fernseh sich ansehen anhören das ist also eine frage die sie dann direkt stellen die antwort auf diese frage wie wird morgen das wetter
- ist dann die information wie gesagt nur die antwort ist die information ein anderes beispiel was ist heute in der welt passiert naja stichwort nachrichten
- sie schauen sich zum beispiel nachrichten internetseiten oder lesen in der zeitung oder im radio dass sonst vor naja was ist heute passiert in der welt
- na dann wäre die antwort auf diese frage wäre dann die information oder informationen
- oder zum beispiel hier im falle von mikrocontrollern das hier ist ein keyboard das arduino uno nur dieser typ her ist im übrigen der microcontroller
- er könnte zum beispiel auch indirekt eine frage stellen zum beispiel wurde der taste betätigt macht mir zwar so könnte ja hier einen taster
- an einem eingang des mikrocontrollers angeschlossen sein und wie gesagt dann wäre die frage der sie stellen könnte wurde dieser taste betätigt ja oder nein
- das wäre so eine ganz einfache ja oder nein frage diese ja oder nein fragen das sind doch die fragen mit denen man sich dann in der regel auch in der informatik
- auseinandersetzt weil ein elektronischer schaltkreise sind nur zwei zustände also entweder ja oder nein entweder wahr oder falsch
- entweder 1 oder 0 so auch und entsprechend ist die frage wurde ein pastor betätigt und die antwort ja wenn er benötigt wird oder
- nein er wurde nicht beteiligt ist dann auch eine information die an die microcontroller in dem fall weiter geleitet wird und der ihn dann dazu
- waren dass irgendwas zu machen und beispielsweise in der taste betätigt wurde soll ein lauf licht aktiviert werden und wenn ein paar sollst nicht
- aktiviert werden als beispiel das könnte dann eine mögliche verarbeitungs vorschrift seien also immer gut merken information ist
- eine antwort auf eine frage die wir uns beispielsweise bewusst stellen oder die sich ein system bewusst stellt oder indirekt stellt
- der informationsgehalt weil eine information eine antwort hat einen bestimmten informationsgehalt was ist das der informationsgehalt ist per
- definition die anzahl der ja nein fragen die man benötigt um eine problemstellung oder auch eine so genannte alternative zu erfassen die
- einer ist im übrigen gilt also die einheit seine informations gelistet informationsgehalt ist also nichts anderes als eine anzahl von ja nein
- fragen die ich benötige um eine entsprechende problemstellung versprechen ab sofort für alternative zu erfassen als beispiel
- den wir mal einen griffen einen würfel ist eine sechs alternative also anstatt dieses großen haben wir
- hier eine 6 warum haben wir eine sex ganz einfach weil es waren ein würfel uns sechs verschiedene ereignisse bieten kann
- zum beispiel können wir bei einem beinbruch des würfels die augenzahl 1 haben wir können die augenzahl zwei haben und 23 bis 26 wir haben also sechs
- verschiedene ereignisse so und der informationsgehalt dieser sechs alternative wäre jetzt die anzahl an ja nein fragen die ich in etwa benötige um
- zu erfahren welche augenzahl gerade geworfen wurde versetzen sich beispielsweise die lage eines orakels handelt welches ihnen vorher sagen kann
- welche augenzahl geworfen wird so und dieses areal müsste sich dann hier auch mit einer 6 alternative auseinandersetzen und diese habe ich
- gesagt da den informationsgehalt der dann aus hat wieviel ja nein fragen man stellen muss beispielsweise wurde die 1 geworfen
- so dass neue jahr ein frage also ich kann entweder mit ja oder nein antworten oder wurde die zwei geworfen kann ich entweder mit ja oder nein antworten oder
- wurde die drei geworden also im schnitt braucht man etwa dann eine gewisse anzahl an ja nein fragen
- was für eine informationsgehalt hat diese sechs alternative das könnte die frage sein beziehungen mit anderen worten die vielen jahren einfangen auch
- man um zu erfassen was gerade gewürfelt wurde rechnung eine innovative beziehungsweise rechnung des informationsgehalt es eine
- alternative können wir mit dieser formel ja machen und ist in diesem fall die anzahl der ja
- nein fragen aus diesem grund auch lokale themen basis zwei weil ich nur zwar verschiedene zustände im prinzip habe ich kann
- entweder mit ja oder mit nein antworten und war oder mit falsch oder im falle eines schalters mit null oder eins so dieses n da habe ich ein
- gleichheitszeichen gesetzt ich hätte hier müssen er ernährungs zeichen setzen müssen weil es näherungsweise namen dieser wert ist
- und das machen wir gleich an einem beispiel im übrigen da wir hier mit dem logarithmen mit einem binär
- logarithmisch arbeiten bei den meisten tragischen taschenrechner haben sie nur den zehner logarithmisch wenn sie glück haben haben sie noch den natürlichen
- organismus damit sie jetzt mit einem beliebigen logarithmen des beispielsweise lindsay lohan muss diesen zwei alu geld muss berechnen können
- hilft uns das lockere das hilft uns eine gesetzmäßigkeit aus der logarithmen rechnung und zwar können wir mit folgender formel hier
- entsprechend den organismus den zwei arrogant muss für einen nummero six berechnen ist in diesem jahr der nummer muss also die zahl von der sie dann die
- entsprechenden entsprechenden exponent für die base 2 haben wollen um diese zahl zu bestimmen im fall des zehner logarithmisch rechnen sie einfach den
- zehner logos von xs dividiert durch den zehn algorithmus von 2 also in dem fall von der gewünschten locken bars ist das können sie natürlich auch für beliebige
- logarithmen hier anwenden so können sie das zum beispiel auch mit ihrem taschenrechner einfach berechnen um beispiel würfel was eben gesagt haben
- wir haben das sechs alternative entweder dürfen wir eins wir werden zwei drei oder sechs oder was auch immer dazwischen liegt
- nach unserer formel 1 beben gezeigt haben kämen wir auf grund 3 bit an informationsgehalt die diese sechs alternativ in diesem fall hinter das
- würde also bedeuten dass wir drei jan hein fragen benötigen würden um die geworfene augenzahl zu erfassen also durch entsprechende frage stellung das
- muss natürlich dann auch effizient gestellt werden hier wird es dann auch später um die häufigkeit gehen dann werden wir gleich
- noch drauf kommen zum beispiel mit welcher häufigkeit dienen die augenzahl auf das kann man dann zum beispiel entsprechend erfassen durch
- untersuchungen der statistische und so weiter und so weiter und dann kann man beispielsweise bei augen zahlen die mit hoher wahrscheinlichkeit dran kommen
- kann man gleich nach dem empfang als beispiel gehen wir mal davon aus es würde mit einer hohen wahrscheinlichkeit die augenzahl drei gewürfelt werden
- dann könnten wir beispielsweise direkt fragen wurde die drei gewürfelt an diana in frage wenn wir nicht gewinnen wird gehen wir
- zunächst hatte ihn warten entsprechend wahrscheinlichkeit auch weist aber wie gesagt im schnitt brauchen wir dann hier drei bitte
- beziehungsweise drei jahren anfragen kommen wir zum nächsten punkt der neue kreis beziehungsweise überraschungs grad der informationsgehalt einer information
- also mit der antwort auf eine frage richtet sich auch immer danach ob das auch wirklich etwas neues ist ob es etwas interessantes ist gerade war ich
- des nachrichtenjournalismus also ein entsprechender beratungs grad vorliegt der informations gerade eine information
- klammer antwort richtet sich auch nach der wasch nach deren wahrscheinlichkeit entsprechen also anstatt beziehungsweise überraschungs grad von dem
- wahrscheinlichkeit werden wir ein entsprechendes ereignis auftritt worauf wir eine entsprechende antwort haben wohl also eine entsprechende
- information geliefert haben wollen also mit welcher wahrscheinlichkeit von xx ist ein ereignis ein ereignis auftritt
- beispiel welche informationsgehalt dx hat einmal der buchstabe a und einmal der buchstabe des deutschen
- alphabets so das heißt also wir haben das deutsche alphabet beispielsweise haben wir einen
- deutschsprachigen text es ist die frage was land informationsgehalt hat beispielsweise das auftreten das ereignis a oder das ereignis er jeweils
- einen buchstaben so über dem der dann beispielsweise eine frage stellen beziehungsweise eine
- information erhalten wollen ihnen nicht wie das eben beim gipfel war und wo wir die frage gestellt haben wurde beispielsweise eine 1 geworfen ja oder
- nein wurde eine eine 3 geworfen ja oder nein und so waren die anstatt nach der augen zahlen dem war nach dem buchstaben und die antwort darauf hat dann einen
- entsprechenden informationsgehalt und der ist aber auch abhängig von den wahrscheinlich kites wert mit dem diese ereignisse auftreten
- hier habe ich eine tabelle auch von entsprechenden da suchen und zwar ist die von wikipedia hier sehen wir die relative häufigkeit
- prozent für den verschiedenen buchstaben hier einfach mal die buchstaben und zwar bis 16 also 16 verschiedenen buchstaben haben wir hier die sind aber
- nicht einfach b tisch großbuchstaben wohlgemerkt also die welt ja wahrscheinlich gar diese buchstaben in einem
- deutschsprachigen text auftreten berechnungen von xfx ist eine funktion die uns den informationsgehalt für ein
- entsprechendes ereignis also liefert allgemein kann man sagen die wahrscheinlich ja ein ereignis ist
- desto geringer ist sein informationsgehalt als beispiel das ereignis wenn ich zum beispiel sagen morgen geht die sonne auf morgen geht
- die sonne auf dieses ereignis trip mit sehr hoher wahrscheinlichkeit man könnte also durchaus sagen
- wahrscheinlich ganz von annährend 100 prozent kreditzusagen uns auf das morgen die sonne aufgeht es sei denn die welt würde auf einmal untergehen oder die
- sonne würde explodieren so da dieses hat dieses ereignis also mit sehr hoher wahrscheinlichkeit wie gesagt wir können mal dann aus den annähernd
- 100% auftritt hat es somit einen informationsgehalt annährend von gerade mal 0 bis soeben eines er war freilich ist
- umgekehrt die unwahrscheinliche ein ereignis ist beispielsweise ein flugzeug stürzt ab dieses eigenes
- morgen stets ein flugzeug habe wenn ich das sage das ist ein ereignis das es nicht so wahrscheinlich aus diesem grund können
- wir davon ausgehen dass das dieses ereignis einen hohen informationsgehalt hätte von einigen bittner
- das wäre also noch das vorab zu klären jetzt kommen wir noch mal zur berechnung wie gesagt von nix und dieser funktion können wir mit folgender
- mit folgender funktions vorschrift berechnen dabei ist p von exner wie gesagt das ist unsere funktion das ist eine funktion
- die jeden ereignis iks ein wahrscheinlichkeit wird zuordnen wohlgemerkt in deetz ii mal trat war sie hier dürfen sie nicht prozent schreibt
- dazu verwenden sondern die idee zumal strafweise sehen sie gleich noch diese funktion pv nix kann zum beispiel durch eine empirische funktion gegeben
- sein also nicht entsprechende messungen statistisch auswerten und so wie wir es eben bei dieser tabelle von wikipedia gesehen haben so ist beispielsweise dann
- auch unsere wahrscheinlichkeit funktion die geben für das auftretende verschiedenen buchstaben dem schicken großbuchstaben
- vom deutschen alphabet in einem deutschsprachigen text oder auch hier wieder logarithmen basis 2 war wären nur zwei zustände kennen entweder ja oder
- nein arbeiten der informatik in der regel mit ja oder nein fragen also es war wie gesagt am anfang gefragt wie ist der informationsgehalt von dem
- buchstaben a und b als erstes einmal müssen wir deren häufigkeit der unwahrscheinlichkeit
- erfassen beziehungsweise neuigkeit grad wie gesagt je höher die wahrscheinlichkeit ist zum beispiel die wahrscheinlichkeit dass der
- code der großbuchstaben die auftritt liegt bei 17,4 prozent wie gesagt beachten sie in thematischer maßen die wahrscheinlichkeit dass der
- großbuchstaben auftritt liegt bei 6,51 prozent das heißt also es ist wahrscheinlicher dass sie in einem dass sie in einem deutschsprachigen text
- auf den großbuchstaben treffen als auf den großen gestorben ein schönes beispiel an dieser stelle hier ereignisses na also da haben wir schon
- in großbuchstaben als beispiel somit hat dieser großbuchstaben weg gehen gemäss dem was wir vorhergesagt haben einen geringeren
- informations karl der große buchstabe a mit diesem wahrscheinlichkeit werten also wie gesagt in dem sie mal trat war hat sie können wir dann diese funktionen
- hier oben füttern und können dann hier auf den informationsgehalt mbit berechnen dieser wäre informationsgehalt des großbuchstaben a
- mere annährend 4 bit naso rund 4 bit eben mal der nicht zu räumt auftritt der informationsgehalt das
- großbuchstaben ehe wäre dagegen nur drei bild irgendwann häufiger ist als der großbuchstaben so können wir das ganze berechnen wie
- gesagt einheit ist weil wir ja nur zwei zustände kämen entweder ja oder nein oder wahr oder falsch oder 0 oder 1 1 das ist auch das was der computer seinen
- digitaler schaltkreis auch nur versteht 0 mehr ein spannungs bereich zwischen 0 und 1 volt an luchse 1 wären spannung zwischen 2,5 und 5 wollten alles was
- dazwischen liegt wäre ein fehler wäre eine stellung jetzt kommen wir noch zum letzten punkt die entropie die entropie in hübscher
- name entropie was ist das die entropie ist nichts anderes als der mittelwert der informationsgehalt der verschiedenen ereignisse einer in
- alternative sie haben also eine alternative mit verschiedenen ereignissen jetzt ist die frage was für einen durchschnittlichen
- informationsgehalt hat so ein ereignis vollkommen egal mit welcher häufigkeit des auftretens also was für ein informationsgehalt im schnitt der
- mittelwert hat ein solches ereignis ein beispiel sie werfen zum beispiel eine münze um zu sehen was dabei herauskommt kopf
- oder zahl ist also hier mit einer zwei alternative zu tun es gibt auch nur zwei halten ist entweder kopf oder zahl
- jetzt wäre die frage nach dem mittelwert also nach dem informationsgehalt denen jedes ereignis kopf oder zahl entsprechend hätte
- die wahrscheinlichkeit und die nochmal abzurufen wahrscheinlichkeit wäre p vom kopf gleich p vom zahl ist gleich 0,5 also wahrscheinlich gerade als die
- kopfzahl werfen etwa 50 prozent diesmal beiden fällen hier gleich da gibt es für die entropie zu berechnen gibt es dieses schöne formel wir
- schreiben ein haar für den tropen klammer die verschiedenen ereignisse x1 bis xl diese xi ist jeweils ein ereignis beispielsweise x1 ist das erste ereignis
- x2 das zweite bis xm in diesem jahr nur zwei ereignisse allerdings 12 beziehungsweise kopf oder zahl dann wird das ganze auf summiert und
- zwar dieses produkt hier und zwar k dieses kann sie sich vorstellen als einen lauf index kommt leider hier nicht dazu schreiben also
- habe ich hier eingeschrieben dieser lauf index kam hier hat er geht von 1 bis m also je nachdem wie viele mögliche ereignissen dem war 2 haben wir
- hier sie haben der wahrscheinlich dass werth das ereignis extra multipliziert mit dem informationsgehalt dieses ereignis ist
- gemäss der fall wie wir eben schon gehabt da das wird wie gesagt multipliziert und diese produkte werden dann für die verschiedenen ereignisse
- aufsummiert wie gesagt von 1 bis m summe dann war dann hier auch einen mittelwert den mittleren informationsgehalt den
- jedes ereignis im schnitt hat am beispiel des windsurfens nein wäre die entropie hahn für die ereignisse
- kopf oder zahl wäre entsprechend ein bild das heißt also jedes ereignis hat durchschnittlichen informationsgehalt von einem bit
- wie gesagt das ist halt mal unterschiedlich je nachdem wie viele ereignisse haben sie haben je nachdem welcher wahrscheinlich gar die auftreten
- und um und haben wir hier unterschiedliche werte das ist das jetzt noch ganz zum schluss die frage was ist eigentlich informatik da steckt
- ja auch dieses wörtchen information dramatik ist die die wissenschaft die sich mit der automatischen verarbeitung
- von informationen beschäftigt das können sich mal merken automatik ist die wissenschaft die sich
- mit der automatischen verarbeitung von informationen beschäftigt und was eine information oder information enten sind das wissen sie ja jetzt
- automatische verarbeitung bezieht sich dann natürlich mal darauf diese information mittels computer zu verarbeiten und ehrlich brunnen die
- datenbearbeitung also oder zum beispiel mit dem entsprechenden digitalen schaltkreisen das ist das video sei an dieser stelle
- zu ende ich bedanke mich recht ordentlich fürs zuschauen würde mich darüber aber noch und wien eben dann wenn sie fragen zum thema haben können
- sie die frage natürlich wie immer gerne über das kommentarfeld stellen oder aber auch direkt über youtube und wenn sie bei youtube nicht registriert sind
- können sie nicht natürlich auch über facebook besuchen da können sie auch einen kommentar hinterlassen wir bei den verschiedenen videos oder mich auch hier
- persönlich direkt anschreiben okay vielen dank fürs zuschauen auf wiedersehen
Zum Nachlesen
Entropie (Informationstheorie)Datenkompression und Entropie. Bearbeiten. Die Entropiekodierung ist ein Kompressionsalgorithmus, um Daten verlustfrei zu komprimieren. In diesem Zusammenhang …
InformationsgehaltDer Informationsgehalt (oder auch Überraschungswert) einer Nachricht ist eine logarithmische Größe, die angibt, wie viel Information in dieser Nachricht …
Shannon (Einheit)Shannon (abgekürzt Sh) ist die nach dem amerikanischen Mathematiker und Begründer der Informationstheorie Claude Elwood Shannon benannte Einheit für den …
InformationSiehe auch: Entropie (Informationstheorie). Semantische Ebene der Information. Bearbeiten. Strukturierte, syntaktische Informationen werden erst verwertbar …