matheraum.de
Raum für Mathematik
Offene Informations- und Nachhilfegemeinschaft

Für Schüler, Studenten, Lehrer, Mathematik-Interessierte.
Hallo Gast! [ einloggen | registrieren ]
Startseite · Forum · Wissen · Kurse · Mitglieder · Team · Impressum
Forenbaum
^ Forenbaum
Status Schulmathe
  Status Primarstufe
  Status Mathe Klassen 5-7
  Status Mathe Klassen 8-10
  Status Oberstufenmathe
    Status Schul-Analysis
    Status Lin. Algebra/Vektor
    Status Stochastik
    Status Abivorbereitung
  Status Mathe-Wettbewerbe
    Status Bundeswettb. Mathe
    Status Deutsche MO
    Status Internationale MO
    Status MO andere Länder
    Status Känguru
  Status Sonstiges

Gezeigt werden alle Foren bis zur Tiefe 2

Navigation
 Startseite...
 Neuerdings beta neu
 Forum...
 vorwissen...
 vorkurse...
 Werkzeuge...
 Nachhilfevermittlung beta...
 Online-Spiele beta
 Suchen
 Verein...
 Impressum
Das Projekt
Server und Internetanbindung werden durch Spenden finanziert.
Organisiert wird das Projekt von unserem Koordinatorenteam.
Hunderte Mitglieder helfen ehrenamtlich in unseren moderierten Foren.
Anbieter der Seite ist der gemeinnützige Verein "Vorhilfe.de e.V.".
Partnerseiten
Weitere Fächer:

Open Source FunktionenplotterFunkyPlot: Kostenloser und quelloffener Funktionenplotter für Linux und andere Betriebssysteme
Startseite > MatheForen > Uni-Sonstiges > relative Redundanz
Foren für weitere Schulfächer findest Du auf www.vorhilfe.de z.B. Geschichte • Erdkunde • Sozialwissenschaften • Politik/Wirtschaft
Forum "Uni-Sonstiges" - relative Redundanz
relative Redundanz < Sonstiges < Hochschule < Mathe < Vorhilfe
Ansicht: [ geschachtelt ] | ^ Forum "Uni-Sonstiges"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien

relative Redundanz: H_{max}?
Status: (Frage) beantwortet Status 
Datum: 22:48 Do 18.01.2007
Autor: Bastiane

Hallo zusammen!

Ich muss bei einer Aufgabe die relative Redundanz [mm] R(Q)=1-H(Q)/H_{max} [/mm] berechnen. Nun bin ich mir aber nicht so ganz sicher, was denn [mm] H_{max} [/mm] ist. Ich dachte eigentlich, dass es der maximale Wert von H(Q) ist (H(Q) habe ich berechnet, das ist eine Summe mit 26 Summanden, und davon wollte ich den größten Summanden nehmen). Aber []hier steht [mm] H_{max}(X) [/mm] = [mm] log_2|26|. [/mm] Ist das richtig? Wenn ja, wie kommt man darauf? Wieso ist das so?

Viele Grüße
Bastiane
[cap]

        
Bezug
relative Redundanz: Antwort
Status: (Antwort) fertig Status 
Datum: 08:46 Fr 19.01.2007
Autor: mathiash

Huludilo Bastiane,

Sturm gut überstanden ? Bin auch nicht vom Rad gefallen.

Zur Frage: [mm] H_{max} [/mm] ist die maximal mögliche Entropie - hier bei einem 26-zeichigen Alphabet -, also die Lösung des
Optimierungsproblems


[mm] \max\sum_{i=1}^{26}-p_i\cdot\log (p_i) [/mm]

unter der Nebenbedingung   [mm] \sum_{i=1}^{26}p_i=1 [/mm]  und [mm] p_i\geq [/mm] 0 [mm] \:\: (1\leq i\leq [/mm] 26),

na ja, und dieses Maximum wird halt genau bei Gleichverteilung erreicht. Nun kann man also die Entropie durch diesen Wert teilen und erhält die relative Entropie.

Lieben Gruss,

Mathias

ps. Wo machst denn Du sowas ? In Neuro etwa ? Oder bei Computer Vision ?




Bezug
Ansicht: [ geschachtelt ] | ^ Forum "Uni-Sonstiges"  | ^^ Alle Foren  | ^ Forenbaum  | Materialien


^ Seitenanfang ^
www.schulmatheforum.de
[ Startseite | Forum | Wissen | Kurse | Mitglieder | Team | Impressum ]