Shannon, Signale und Abtastraten von E-Feldern

Smalltalk
Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Shannon, Signale und Abtastraten von E-Feldern

Beitrag von hikaru » 20.08.2018 09:20:21

wanne hat geschrieben: ↑ zum Beitrag ↑
19.08.2018 13:56:00
Du kannst das spiel immer noch weiter treiben und wirst am Ende Feststellen. Dass de deine Kabel in beliebig kleine Teile zerteilen kannst und in jedem nochmal der gleiche Teil des Filmes ist.
Das stimmt so aus drei Gründen nicht:

1. Die Signalgeschwindigkeit (nahe c) ist zwar im Vergleich zur Kabellänge (~1m) so hoch, dass zu einem gegebenen Zeitpunkt im gesamten Kabel für gewöhnlich tatsächlich nur ein Bit vorliegt, womit jedes Teilstück "den gleichen Teil des Films" beinhaltet, allerdings kann es bei einem beliebigen Schnittzeitpunkt durchaus vorkommen, dass du zufällig während eines Bitwechsels schneidest.

2. Die Wellenlänge des Bild-Trägersignals ist wesentlich größer als die Kabellänge, was bedeutet, dass der Informationsgehalt des Kabels allein nahe Null liegt. Informationstheoretisch gibt es im Kabel allein GAR KEINEN Teil des Films.

3. Wenn du das Kabel in beliebig kleine Teile schneidest, stößt du, je feiner du schneidest, an verschiedene physikalische Grenzen. Nehmen wir an, du nimmst einen Laser statt einer Schere. Dann wirst du irgendwann die Teile des Kabels makroskopisch nicht mehr als solche identifizieren können. Nimmst du (hypothetische) noch genauere Werkzeuge, dann hast du irgendwann nur noch Moleküle, später Atome und Quanten vor dir. Irgendwann stößt du bei der Planck-Länge an eine (nach aktuellem Kenntnisstand) absolute physikalische Grenze unter der es nicht möglich ist, überhaupt Informationen zu speichern.

wanne
Moderator
Beiträge: 5546
Registriert: 24.05.2010 12:39:42

Re: "Kopierschutz"

Beitrag von wanne » 20.08.2018 11:52:29

hikaru hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 09:20:21
allerdings kann es bei einem beliebigen Schnittzeitpunkt durchaus vorkommen, dass du zufällig während eines Bitwechsels schneidest.
[…]
2. Die Wellenlänge des Bild-Trägersignals ist wesentlich größer als die Kabellänge, was bedeutet, dass der Informationsgehalt des Kabels allein nahe Null liegt.
Ich habe von aktueller Technik gesprochen. Die sieht in dem Fall so aus:
Bild
Da hast du zu fast jedem Zeitpunkt (Mindestens ~9/10 der Zeit) 4Bit Bild drin. Möglicherweise noch etwas Audio.
hikaru hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 09:20:21
Wenn du das Kabel in beliebig kleine Teile schneidest, stößt du, je feiner du schneidest, an verschiedene physikalische Grenzen.
Beliebig bezog sich natürlich auf das mögliche.
rot: Moderator wanne spricht, default: User wanne spricht.

Benutzeravatar
novalix
Beiträge: 1549
Registriert: 05.10.2005 12:32:57
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: elberfeld

Re: "Kopierschutz"

Beitrag von novalix » 20.08.2018 12:46:54

Hui, da nimmt ja eine "einfache" praktische Frage theoretisch richtig Fahrt auf.
hikaru hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 09:20:21
Nimmst du (hypothetische) noch genauere Werkzeuge, dann hast du irgendwann nur noch Moleküle, später Atome und Quanten vor dir. Irgendwann stößt du bei der Planck-Länge an eine (nach aktuellem Kenntnisstand) absolute physikalische Grenze unter der es nicht möglich ist, überhaupt Informationen zu speichern.
Die größten Schwierigkeiten bei der Problembeschreibung bereitet mir der Informationsbegriff. Wir behandeln gewohnheitsmäßig die zu beschreibenden Prozesse als Übertragung bzw. Speicherung von Information. Ich bin mir aber gar nicht so sicher, ob man aufgrund der theoretischen Grundlegung nach Shannon überhaupt davon sprechen kann, dass da "etwas" übertragen oder gespeichert wird, was so heißt.
Bei Shannon werden zunächst einmal Signale von einem Sender zu einem Empfänger übertragen. "Information" ist dann das, was man den "Grad der Bestimmbarkeit" dieser Signale nennen könnte. Dabei könnte ich jetzt noch nicht einmal sagen, ob diese Eigenschaft der graduellen Bestimmbarkeit im engeren Sinne eine dem Signal innewohnende ist, oder eine vom (messenden) Beobachter erzeugte.

Zudem muss man sich auch vergegenwärtigen, dass die mathematische Herleitung des Informationswertes gar nicht zwingend auf dem binären Modell aufbauen muss. Es war schlicht Shannons Untersuchungsgegenstand der praktischen Problemstellungen elektrischer Signalübertragung, die das hervorgerufen hat. Theoretisch hätte er die Gleichung auch auf dem "natürlichen" Logarithmus aufbauen können, aber so viele Schaltstufen gibt es in der Elektrik halt nicht.

Die Rezeptionsgeschichte der Shannonschen Informationstheorie ist von Beginn an eine von vielen Irrungen und Wirrungen. Das betrifft sowohl die Rezeption in den Geistes- und Sozialwissenschaften (aus kommunikationstheoretischer Sicht findet man hier eine sehr aufschlussreiche Skizzierung), als auch verschiedene naturwissenschaftliche Bereiche.
Der Biologe Humberto Maturana berichtete von einem Gespräch mit einem befreundeten Neurowissenschaftler, der darstellte wie in seiner Disziplin zwei bis drei Jahre nach der Veröffentlichung der Arbeit Shannons plötzlich neuronale Prozesse unisono als "Informationsübertragung" benannt wurden, ohne dass es irgendwelche neuen Erkenntnisse oder Messmethoden gegeben habe, die diese Benennung herbeigeführt hätten.
Der Begriff war einfach hip.

Bezüglich der "Originalität" von Information, könnte man hilfsweise zunächst mal von einem "Informationsereignis" sprechen (was dann in die Richtung von @wanne Skizzierung hinausläuft).
Information bedürfte dann einer aktuellen konkreten Situation, um zu "sein". Das würde aber noch nicht hinreichend erklären, warum sie über verschiedene Aktualisierungen so "gleich" bleibt.
I have seen the face of death. It is a 1000+ line XML file of regexes.
j_houg

wanne
Moderator
Beiträge: 5546
Registriert: 24.05.2010 12:39:42

Re: "Kopierschutz"

Beitrag von wanne » 20.08.2018 13:47:39

Irrelevanz
Der Biologe Humberto Maturana berichtete von einem Gespräch mit einem befreundeten Neurowissenschaftler, der darstellte wie in seiner Disziplin zwei bis drei Jahre nach der Veröffentlichung der Arbeit Shannons plötzlich neuronale Prozesse unisono als "Informationsübertragung" benannt wurden, ohne dass es irgendwelche neuen Erkenntnisse oder Messmethoden gegeben habe, die diese Benennung herbeigeführt hätten.
Der Begriff war einfach hip.
Nein. Man hat nichts neues gemessen sondern alte Messungen besser Verstanden.
So wie Newton mit Gravitation die Kepplerschen Gesetze der Astronomie und die Kinematik der Physik auf gemeinsame Füße setzte. Oder Maxwell mit seinen Gleichungen Optik und Elektrotechnik. Ob Bohr, Einstein oder Planck praktisch alle wirklich berühmten Naturwissenschaftler wurden dadurch berühmt, dass sie ein einzelnes Gesetz hinter vielen bis dahin für unabhängig gehaltenen erkannten. Praktisch alle führten dafür einheitliche, neue abstrakte Begriffe ein. Und vor allem: Alle von mir genannten (außer möglicherweise Newton) wurden dafür von der Vorgängergeneration an Wissenschaftlern verachtet. Humberto Maturana hat das letzte mal vor 50 Jahren Biologie gemacht. Danach hat er sich in die Philosophie verdrückt.
Dass der bei sich aktuell schnell verändernden zweigen wie den Kognitionswissenschaften nicht mehr ganz durch blickt ist normal.
rot: Moderator wanne spricht, default: User wanne spricht.

Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Re: "Kopierschutz"

Beitrag von hikaru » 20.08.2018 15:18:19

wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 11:52:29
Ich habe von aktueller Technik gesprochen.
Was nichts daran ändert, dass ein Signalquant das sich mit v=c durch einen Leiter mit Länge=1m bewegt, sich nur für 3*10^-8 Sekunden überhaupt in diesem Leiter befindet - schneidest du den Leiter in kürzere Stücke, dann entsprechend kürzer.
3*10^-8 Sekunden entspricht einer Signalfrequenz von 300MHz. Diese musst du mindestens erreichen um bei der Abtastung zum Zeitpunkt X nur auf dem 1m Kabel überhaupt einen Signalzustand vom nächsten unterscheiden zu können. Ich kenne mich mit den Low-Level-Eigenschaften von Displayport nicht aus, bin mir aber ziemlich sicher, dass es diese Frequenz nicht hergibt (physikalisch, nicht protokollseitig).
Nach Nyquist-Shannon musst die diese Frequenz eigentlich nochmal verdoppeln. So oder so: Aus einem beliebig kurz (oder lang) abgeschnittenen Teil eines Monitorkabels wirst du keine Informationen über einen abgespielten Film extrahieren können.

novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 12:46:54
Die größten Schwierigkeiten bei der Problembeschreibung bereitet mir der Informationsbegriff. Wir behandeln gewohnheitsmäßig die zu beschreibenden Prozesse als Übertragung bzw. Speicherung von Information. Ich bin mir aber gar nicht so sicher, ob man aufgrund der theoretischen Grundlegung nach Shannon überhaupt davon sprechen kann, dass da "etwas" übertragen oder gespeichert wird, was so heißt.
Bei Shannon werden zunächst einmal Signale von einem Sender zu einem Empfänger übertragen. "Information" ist dann das, was man den "Grad der Bestimmbarkeit" dieser Signale nennen könnte. Dabei könnte ich jetzt noch nicht einmal sagen, ob diese Eigenschaft der graduellen Bestimmbarkeit im engeren Sinne eine dem Signal innewohnende ist, oder eine vom (messenden) Beobachter erzeugte.
"Information" ist hier eine emergente Eigenschaft. Um Information von Alice zu Bob zu übertragen, muss Alice (nicht zwangsläufig absichtlich) etwas senden, dass sie als Information betrachtet und Bob muss das selbe Signal als Information interpretieren. Diese (möglicherweise implizite) Übereinkunft, dass "Information" vorliegt ist ein emergentes Phänomen.

(Gegen-)Beispiele:

1. Alice sendet Daten die etwas über sie ausagen, aber Bob kann sie nicht als solche wahrnehmen, sondern hält sie für Rauschen: Es wurde keine Information übertragen, weil Bob dem Signal keine Daten über Alice entnommen hat.

2. Von Alice kommt ein Signal, das aber tatsächlich keine Daten über sie enthält. Bob empfängt es und meint darin Daten über Alice zu finden: Es wurde keine Information übertragen, weil gar keine gesendet wurde.
2.b. Streng genommen könnte man hier noch sagen, dass zumindest die Metainformation übertragen wurde, das Alice ein Signal gesendet hat. Man kann das Szenario aber auch dahingehend ändern, dass das Signal nur scheinbar von Alice kam, z.B. aus ihrer Richtung ohne dass Bob den wahren Sender kennt bzw. Alice als "Nicht-den-Sender" erkennt (Praxisbeispiel: "Wow-Signal").

3. Alice sendet (absichtlich oder unabsichtlich) tatsächlich ein Signal aus. Bob empfängt es und findet darin Daten über Alice: Es hat Informationsübertragung stattgefunden.

wanne
Moderator
Beiträge: 5546
Registriert: 24.05.2010 12:39:42

Re: "Kopierschutz"

Beitrag von wanne » 20.08.2018 16:15:34

hikaru hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 15:18:19
Ich kenne mich mit den Low-Level-Eigenschaften von Displayport nicht aus,
Um das zu beantworten. DP hat keine Frequenz. Das macht primitives LVDS: Man legt auf Senderseite 3.3V an. Der Empfänger hat dann eine gewisse Zeit, dann die Spannung an einem 100Ω Widerstand zu messen. Kurz da fließt schlicht eine ganze weile lang Strom in die gleiche Richtung. Kannst dich mit einem Voltmeter an eine beliebige Stelle am Kabel stellen und die gleiche Spannung messen. Im DP passiert dass für Bild dann 4 mal auf unterschiedlichen Adernpaaren (Daneben hast du noch Masse und Audio und Erkennung ob da ein HDMI-Adapter drin steckt.)
Wie viele Kupferatome du brauchst um (lediglich) 3.3V Spannung zwischen zwei stellen haben zu können kannst du dann einen Chemiker deiner Wahl Fragen. Es dürften aber eine im Vergleich zur Masse des Kabels verdammt wenige sein.


hikaru hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 15:18:19
Um Information von Alice zu Bob zu übertragen, muss Alice (nicht zwangsläufig absichtlich) etwas senden, dass sie als Information betrachtet und Bob muss das selbe Signal als Information interpretieren. Diese (möglicherweise implizite) Übereinkunft, dass "Information" vorliegt ist ein emergentes Phänomen.
Nein. Ihr redet hier immer von Information, die über einen Kanal übertragen wird deswegen Blendet ihr immer die Streuentropie (Irrelevanz) aus. Information beinhaltet auch Streuentropie. Es ist nur der Teil der Information, der nicht übertragen wurde sondern sonst irgend wo herkommt. Information kann prinzipiell auch absolut bestimmt werden und auch beispielsweise von einem Stern ausgehen.
rot: Moderator wanne spricht, default: User wanne spricht.

Benutzeravatar
novalix
Beiträge: 1549
Registriert: 05.10.2005 12:32:57
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: elberfeld

Re: "Kopierschutz"

Beitrag von novalix » 20.08.2018 16:48:26

wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 13:47:39
Ob Bohr, Einstein oder Planck praktisch alle wirklich berühmten Naturwissenschaftler wurden dadurch berühmt, dass sie ein einzelnes Gesetz hinter vielen bis dahin für unabhängig gehaltenen erkannten. Praktisch alle führten dafür einheitliche, neue abstrakte Begriffe ein.
Ja logisch! Die Schaffung bzw. Ausdifferenzierung eines begrifflichen Bezugssystems ist der Kern jeder wissenschaftlichen Beschäftigung. Ohne dieses würde niemand wissen, was er/sie eigentlich messen soll und was mit der Messung anzufangen wäre.
Ich habe auch nicht vorgehabt den Informationsbegriff zu verwerfen oder abzutun, sondern eher darauf zu verweisen, dass man bei der Entstehungs- und Rezeptionsgeschichte einfach mal genauer hinschauen sollte.

Die Anekdote von Maturana habe ich erwähnt, um zu illustrieren, dass es in der Wissenschaft durchaus so etwas wie Moden gibt, die nicht unmittelbar aus den Erfordernissen des und Erkenntnissen über den Untersuchungsgegenstand entspringen. Was Du des weiteren über Maturana sagst, ist, mit Verlaub, Unsinn.

@hikaru
Information als "emergente Eigenschaft" eines Prozesses zu beschreiben, kann man machen. Für meinen Teil weiß ich aber nicht, ob es das Problem genauer erklärt.

Ein wirklich großes Problem dieses Begriffs ist ganz offensichtlich, dass er schon vor seiner mathematischen Grundlegung und auch seitdem in ganz anderen Bedeutungskontexten Verwendung fand bzw. findet.
Ebenso evident findet nicht selten eine Vermischung dieser Bedeutungskontexte statt.
Wenn in Deinen Beispielen die anscheinend menschlichen Akteure "Alice" und "Bob" auftreten, beschreibst Du eine Kommunikationssituation, die mit der Informationstheorie alles andere als adäquat beschrieben werden kann und auch gar nicht Gegenstand von Shannons Untersuchungen war. Das wird in dem weiter oben angeführten Link recht plausibel ausgeführt. (In Fußnote sieben findet man dort auch noch ein ganz besonderes Bonbon über die Zufälligkeiten wissenschaftlicher Begriffsbildung.)
I have seen the face of death. It is a 1000+ line XML file of regexes.
j_houg

Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Re: "Kopierschutz"

Beitrag von hikaru » 20.08.2018 17:29:03

wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:15:34
Um das zu beantworten. DP hat keine Frequenz. Das macht primitives LVDS: Man legt auf Senderseite 3.3V an. Der Empfänger hat dann eine gewisse Zeit, dann die Spannung an einem 100Ω Widerstand zu messen.
Danke!
Diese "gewisse Zeit" bzw. deren Kehrwert stellt aber ihrerseits eine Frequenz dar. Diese muss > c/l (bzw. nach Nyquist-Shannon > 2c/l) sein, damit du aus deinem abgeschnittenen Kabelstück Information extrahieren kannst. Eben dass Displayport dies erfüllt bezweifle ich.
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:15:34
Wie viele Kupferatome du brauchst um (lediglich) 3.3V Spannung zwischen zwei stellen haben zu können kannst du dann einen Chemiker deiner Wahl Fragen.
Ich glaube langsam zu verstehen, wo du hin willst. Das Problem ist, dass die Spannung allein keine Information darstellt, denn du kannst sie nicht von irgendeiner Art von Entropie unterscheiden. Du bräuchtest zumindest eine Zustandsänderung, um überhaupt einen Informationsgehalt vermuten zu können. Dafür wiederum brauchst du eine minimale Abtastrate, denn sonst ist es reiner Zufall ob du eine Zustandsänderung messen kannst oder nicht.
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:15:34
Nein. Ihr redet hier immer von Information, die über einen Kanal übertragen wird deswegen Blendet ihr immer die Streuentropie (Irrelevanz) aus. Information beinhaltet auch Streuentropie. Es ist nur der Teil der Information, der nicht übertragen wurde sondern sonst irgend wo herkommt. Information kann prinzipiell auch absolut bestimmt werden und auch beispielsweise von einem Stern ausgehen.
Ich denke wie auch novalix, dass das Problem ist, dass wir generell von verschiedenen Informationsbegriffen ausgehen. Zwecks Vereinfachung ging ich tatsächlich von einem "störungsfreien Kanal" aus, um mal deine kommunikationstechnische Sprache zu verwenden.
Ich kam mit den physikalischen Grenzen aus dem kosmologischen Bereich, die letztendlich auch für die Kommunikationstechnik gelten. Das Shannon-Nyquist-Theorem stellt hier den Schnittpunkt beider dar.
Unabhängig davon gibt es noch den psychologischen Aspekt, auf den ich mit Alice und Bob hinaus wollte, weil ich novalix' Beitrag in die Richtung gedeutet hatte.

novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
Wenn in Deinen Beispielen die anscheinend menschlichen Akteure "Alice" und "Bob" auftreten, beschreibst Du eine Kommunikationssituation, die mit der Informationstheorie alles andere als adäquat beschrieben werden kann und auch gar nicht Gegenstand von Shannons Untersuchungen war. Das wird in dem weiter oben angeführten Link recht plausibel ausgeführt.
Hier findet gerade keine Informationsübertragung statt. ;)
Ich hatte einige Mühe den gut im Text versteckten Link zu finden und nun wo ich ihn gefunden habe, kann ich keine Verbindung zu der Seite aufbauen (504).

wanne
Moderator
Beiträge: 5546
Registriert: 24.05.2010 12:39:42

Re: "Kopierschutz"

Beitrag von wanne » 20.08.2018 18:44:53

Diese "gewisse Zeit" bzw. deren Kehrwert stellt aber ihrerseits eine Frequenz dar. Diese muss > c/l (bzw. nach Nyquist-Shannon > 2c/l) sein, damit du aus deinem abgeschnittenen Kabelstück Information extrahieren kannst. Eben dass Displayport dies erfüllt bezweifle ich.
Verstehe ich nicht. Sobald du den schnitt gemacht hast, hast du zum auslesen doch alle Zeit der Welt. Ist ja völlig Wurst wie lange das Signal eigentlich anliegen würde. Sobald ich abschneide ändert sich nichts mehr. Im Zweifelsfall habe ich halt für einen teil des Kabels die 4 Bit vorher. Wobei ich stark annehme, dass die Schaltzeiten größer sind, als die Propagation. Sind je nach Version irgend was zwischen 100MHz und 1GHz. Kannst du ja mal ausrechnen.
Das Problem ist, dass die Spannung allein keine Information darstellt, denn du kannst sie nicht von irgendeiner Art von Entropie unterscheiden. Du bräuchtest zumindest eine Zustandsänderung, um überhaupt einen Informationsgehalt vermuten zu können. Dafür wiederum brauchst du eine minimale Abtastrate, denn sonst ist es reiner Zufall ob du eine Zustandsänderung messen kannst oder nicht.
Nach der Logik läge auf meiner 250GiB SSD kein einziges Bit Information da ändert sich ja nichts. Natürlich kann ich Informationen in konstanten Spannungsfeldern encodieren. Sie bewegt sich dann halt nicht. Und wenn du jetzt Pfennigfuchsen willst, dass eine einzelne 1 ja zu 100% auftritt und somit der Informationsgehalt 0 ist: Ich habe 4 von den Adernpaaren.
Zwecks Vereinfachung ging ich tatsächlich von einem "störungsfreien Kanal" aus
Super. Dann kannst du die Information messen ohne auch nur ein krümel zu verstehen. Ist ja einfach nur Statistik.
novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
Was Du des weiteren über Maturana sagst, ist, mit Verlaub, Unsinn.
Möglicherweise habe ich ihm unrecht getan. Ich habe mal etwas gegoogelt und auf die schnelle extrem wenig gefunden. Lediglich, dass seine letzte wissenschaftliche Publikation im Bereich Biologie 50 Jahre her ist.
Da würde mich nicht wundern, wenn er da nicht ganz auf der Höhe der Zeit ist. (Wie leider so mancher Biologie-Erklärer, der im Moment in den Medien auftaucht.)

novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
Ein wirklich großes Problem dieses Begriffs ist ganz offensichtlich, dass er schon vor seiner mathematischen Grundlegung […] Verwendung fand
Ich sehe das als alles andere als Problematisch an. In Naturwissenschaften ist es seit langem üblich Definitionen zu aktualisieren. Masse und Geschwindigkeit je durch Newton und Einstein, Licht je durch Galilei und Maxwell. Atom durch Bernoulli Lavoisier Thomson Bohr und bestimmt nochmal 15 andere... Von den Redefinitionen diverser Einheiten will ich gar nicht reden. Neue Erkenntnisse führen zu neuen Definitionen typischerweise sorgt man dafür dass sie weiterhin alten Verwendungszwecke abdecken. Als Newton feststellte, dass man keine absoluten Geschwindigkeiten feststellen kann hat man sie halt als relative (meist zur Erdoberfläche) neu definiert. Das hat die alten Verwendungszwecke gerettet aber das ganze auf ein korrekteres Fundament gestellt.

novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
Wenn in Deinen Beispielen die anscheinend menschlichen Akteure "Alice" und "Bob" auftreten, beschreibst Du eine Kommunikationssituation, die mit der Informationstheorie alles andere als adäquat beschrieben werden kann und auch gar nicht Gegenstand von Shannons Untersuchungen war. Das wird in dem weiter oben angeführten Link recht plausibel ausgeführt.
Der Link ist leider down.
Aber nein Alice und Bob sind eben keine Menschen sondern sogar extra dafür geschaffen, Informationstheorie zu veranschaulichen. Entsprechend gut sollten sich die passenden Vorgänge mit ihr beschreiben lassen
novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
seitdem in ganz anderen Bedeutungskontexten Verwendung fand bzw. findet.
Es ist doch nicht falsch Additionen im Kontext Elektrotechnik zu verwenden, obwohl das garantiert nicht der ursprüngliche Kontext war.
rot: Moderator wanne spricht, default: User wanne spricht.

Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Re: "Kopierschutz"

Beitrag von hikaru » 21.08.2018 12:01:50

wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 18:44:53
Verstehe ich nicht. Sobald du den schnitt gemacht hast, hast du zum auslesen doch alle Zeit der Welt. Ist ja völlig Wurst wie lange das Signal eigentlich anliegen würde. Sobald ich abschneide ändert sich nichts mehr.
Es geht in deinem Gedankenexperiment nicht um die Zeit (Frequenz), sondern um die Wellenlänge des Signals. Aber da λ=c/f, sind beide Begriffe austauschbar.
Du musst eine komplette Welle in dem abgeschnittenen Kabelstück unterbringen können, um die Welle als solche zu erkennen. Genau das Gleiche sagt Nyquist-Shannon aus, nur aus praktischen Gründen nicht anhand der Wellenlänge über eine Strecke sondern anhand der Frequenz über eine Zeit.
Um in 1m Kabel mindestens eine Welle unterzubringen, darf die Wellenlänge eben höchstens 1m sein. Das entspricht einer Frequenz von 300MHz. Wohlgemerkt: Das ist die Frequenz der Informationsübertragung (Signalfrequenz), nicht die des Trägers (vergl. Gruppengeschwindigkeit vs. Phasengeschwindigkeit).
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 18:44:53
Im Zweifelsfall habe ich halt für einen teil des Kabels die 4 Bit vorher.
Im Normalfall nicht, es sei denn die Wellenlänge ist höchstens so lang wie dein Kabelstück.
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 18:44:53
Wobei ich stark annehme, dass die Schaltzeiten größer sind, als die Propagation. Sind je nach Version irgend was zwischen 100MHz und 1GHz. Kannst du ja mal ausrechnen.
Schon geschehen, siehe oben! Bei 1m Kabel brauchst du 300MHz Signalfrequenz, also eine Schaltzeit von 3*10^-8 Sekunden, sonst kriegst du keine ganze Welle in dem Stück unter und du kannst keinen Informationsgehalt messen.
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 18:44:53
Das Problem ist, dass die Spannung allein keine Information darstellt, denn du kannst sie nicht von irgendeiner Art von Entropie unterscheiden. Du bräuchtest zumindest eine Zustandsänderung, um überhaupt einen Informationsgehalt vermuten zu können. Dafür wiederum brauchst du eine minimale Abtastrate, denn sonst ist es reiner Zufall ob du eine Zustandsänderung messen kannst oder nicht.
Nach der Logik läge auf meiner 250GiB SSD kein einziges Bit Information da ändert sich ja nichts. Natürlich kann ich Informationen in konstanten Spannungsfeldern encodieren.
Es geht, wie gerade dargelegt, nicht um zeitliche Veränderungen, sondern um den "Platz" um die Information unterzubringen.
Das nebenbei bemerkt quantenphysikalisch unmögliche Gedankenexperiment der instantanen Zustandsmessung einer EM-Welle in einem ebenso instantan abgeschnittenen Leiter stellt sich bei einer SSD in der Realität gar nicht.

Benutzeravatar
novalix
Beiträge: 1549
Registriert: 05.10.2005 12:32:57
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: elberfeld

Re: "Kopierschutz"

Beitrag von novalix » 21.08.2018 13:39:58

Bei mir funktioniert der Link. Das kann ein temporäres Problem gewesen sein, oder der Server hat ein Problem mit seinen eigenen Routen. Bei $Suchmaschine taucht der Deeplink nämlich auch nicht auf, sondern der Anreisser unter http://www.rkm-journal.de/archives/tag/shannon.
wanne hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 18:44:53
novalix hat geschrieben: ↑ zum Beitrag ↑
20.08.2018 16:48:26
Ein wirklich großes Problem dieses Begriffs ist ganz offensichtlich, dass er schon vor seiner mathematischen Grundlegung […] Verwendung fand
Ich sehe das als alles andere als Problematisch an. In Naturwissenschaften ist es seit langem üblich Definitionen zu aktualisieren.
Da hast Du mich vielleicht falsch verstanden. Ich wollte darauf hinaus, dass "Information" *außerhalb* der Physik (bzw. Elektrotechnik) eine Verwendung hat und auch schon hatte. Die Bedeutung innerhalb dieser Kontexte ist, wenn man genau hinschaut, nur scheinbar ähnlich.

Wenn jemand sagt, er fühle sich durch Zeitung X "gut informiert", dann ist diese Aussage aus Sicht der Informationtheorie völlig unklar. Sie ist aber alles andere als falsch.
Wenn man so will, sind die beiden Begriffe aus historischen Gründen homonym. So wie das Wort "Bank" eigentlich eine Sitzgelegenheit für mehrere Leute bezeichnet, als aber die Geldverleiher sich gewohnheitsmäßig auf einer Parkbank in Genua versammelten, der Ausdruck "zur Bank gehen" eine völlig andere Bedeutung bekam.

Shannon selber hat durch die Wahl seiner Begriffe (Titel: The mathematical theory of communication) einer gewissen Bedeutungsdiffusion Vorschub geleistet. Mit "Kommunikation" im Sinne einer Handlungskoordination mittels Sprache hat seine Arbeit eigentlich überhaupt nichts zu tun, eher schon mit der Leibnizschen "communicatio motus", in der zwei Körper (Monaden) aufeinander treffen wie Billiardkugeln.

Mir ging es bezüglich des Ausgangsproblems tatsächlich aber um "Information" im Shannonschen Sinne.
Elektronische Rechenanlagen sind meines Erachtens nach ausschließlich in dieser Hinsicht informationsverarbeitende Systeme. Eine mögliche sinn- und bedeutungstragende Ebene ist ein völlig anderer Prozess, der mit der Maschine sehr wenig (Sideeffect) bis gar nichts zu tun hat.
Wenn ich weiter oben also von "Informationsereignis"[*] gesprochen habe, dann meine ich tatsächlich das physische Geschehen und nicht etwa eine mentale Interpretation.

[*] Wahrscheinlich ist das Quatsch und zeigt einfach nur meine Verständnisschwierigkeiten über physikalische Gegenstandskonstruktionen.
I have seen the face of death. It is a 1000+ line XML file of regexes.
j_houg

Jana66
Beiträge: 3889
Registriert: 03.02.2016 12:41:11

Re: "Kopierschutz"

Beitrag von Jana66 » 21.08.2018 14:06:16

hikaru hat geschrieben: ↑ zum Beitrag ↑
21.08.2018 12:01:50
Du musst eine komplette Welle in dem abgeschnittenen Kabelstück unterbringen können, um die Welle als solche zu erkennen. Genau das Gleiche sagt Nyquist-Shannon aus, nur aus praktischen Gründen nicht anhand der Wellenlänge über eine Strecke sondern anhand der Frequenz über eine Zeit.
Dürfte nicht korrekt sein. Ich erkenne eine Welle (analog gemessene Kurve) auch mit der Hälfte oder einem Viertel schon optisch durch Vergleich mit rechnerisch ermittelten Sinus-/Kosinus-Kurven. Shannon sagt mit dem Abtasttheorem, dass die Abtastfrequenz mindestens 2 x so groß wie die höchste Signalfrequenz sein muss, um rekonstruieren zu können. Wieviele Abtastwerte gebraucht werden, sagt er nicht. Daumenregel: Mit einem Digital-Speicher-Oszillograph (DSO) benötigt man etwa 10 Abtastwerte pro Wellenlänge für eine halbwegs vernünftige optische Darstellung. Die Grenzfrequenz von DSOs bezieht sich nur auf das Abtasttheorem, höchste Signalfrequenz < 1/2 Abtastfrequenz. Und Tiefpässe zur Vermeidung von Aliasing sind nicht ideal. Die höchste Frequenz für 10 Abtastwerte pro Wellenlänge kann man selber berechnen.

Praktisches Beispiel: einseitig offenes Rohr (ungedackte Orgelpfeife): Die im Rohr befindliche Wellenlänge der 1. Harmonischen (1. stehende Welle / Eigenfrequenz / Eigenform) ist 1/4 der Druckwellenlänge, die 2. Harmonische 3/4 der Druckwellenlänge wegen der Randbedingungen (offenes Ende: Schalldruck=0, gedecktes Ende: Schalldruck bei Resonanz theoretisch unendlich), die Eigenform mit 1/2 Wellenlänge im Rohr fehlt wegen unpassender (im Beispiel notwendiger gleicher) Randbedingungen. Gleicher Effekt, qualitativ gleiche Formeln bei einseitig eingespannten Saiten - nur mechanische Größen wie Auslenkung. Gleiche Randbedingungen (gedackte Orgelpfeifen, 2-seitig eingespannte Saiten) ergeben als Eigenfrequenz also n x 1/2 Welenlänge. Randbedingungen 2-seitig eingespannter Saiten: Auslenkung = 0.

Jedenfalls kann ich mit entsprechendem Instrumentarium an jeder Stelle einer Teilwelle den Schalldruck oder die Auslenkung messen. Allerdings nur, wenn überhaupt eine (stehende) Welle (Resonanz) entsteht. Passiert nur bei Anregung in der Nähe der Eigenfrequenzen oder mittels Impuls (Schneide einer Pfeife zur Verwirbelung, Zupfen einer Saite etc.)

Wenn in einem Kabelstück eine stehende Welle existiert, wird es schwer mit Siganlübertragung nach außen: Ideale Randbedingungen für stehende Wellen: offene Klemmen oder/und Kurzschluss - einseitig oder zweiseitig wie in den genannten Beispielen - nur diesmal elektrische Kenngrößen. Impedanzunterschiede sind so zwischen drin. Welleneffekte treten erst bei "elektrisch langen Leitungen" (Fachbegriff) auf, also ab 1/4 der elektr. Wellenlänge. Bei HF ist das ziemlich kurz. :wink:

Eine andere Geschichte ist (ideale) Anpassung zur maximalen (Leistungs-) Übertragung. Nun habe ich keine Lust mehr zum Schreiben, ist auch (theoretisch) eine einfache Geschichte: https://de.wikipedia.org/wiki/Anpassung ... rotechnik)
(Zum Verständnis Rechnung mit komplexen Zahlen erforderlich, für Praktiker genügen die einfachen Ergebnisse. Ziele/Maßnahmen in Anwendungsgebieten unterschiedlich.)

Edit:
Wiederum eine andere Geschichte ist die "Betrachtung" komplexer analoger Signale durch rechnerische "Aufteilung" in viele überlagerte harmonische (sinusfoermige) Signale durch Fourier- oder Laplacetransformation. Damit kann ein sogenanntes Bode-Diagramm entstehen, eigentlich zwei. Amplitude über Frequenz sowie Phasenwinkel über Frequenz. Ersteres kennt man von "Equalizern" mit Anzeige des Signals (Amplitude) über ausgewählten Frequenzen. Oder aus Krimis, wenn die Guten (TM) Sprache "auswerten".
Zuletzt geändert von Jana66 am 21.08.2018 15:03:21, insgesamt 1-mal geändert.
Wenn keiner was sagt, wird sich nichts ändern. Wenn alle nur reden ebenfalls nicht.

Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Re: "Kopierschutz"

Beitrag von hikaru » 21.08.2018 15:02:35

Jana66 hat geschrieben: ↑ zum Beitrag ↑
21.08.2018 14:06:16
Ich erkenne eine Welle (analog gemessene Kurve) auch mit der Hälfte oder einem Viertel schon optisch oder durch Vergleich mit rechnerisch ermittelten Sinus-/Kosinus-Kurven.
Ok, schließen wir eine Wette ab! Ich zeige dir die erste Hälfte einer Welle und du malst mir die zweite Hälfte auf. Wenn die richtig ist, hast du gewonnen.
Während du den Stift holst, hole ich den Gleichrichter. ;)
Der springende Punkt ist: Du kannst anhand eines Teils der Welle sinnvolle Vermutungen über den Rest anstellen, aber du kannst keine sicheren Aussagen darüber treffen.
Jana66 hat geschrieben: ↑ zum Beitrag ↑
21.08.2018 14:06:16
Shannon sagt mit dem Abtasttheorem, dass die Abtastfrequenz mindestens 2 x so groß wie die höchste Signalfrequenz sein muss, um rekonstruieren zu können. Wieviele Abtastwerte gebraucht werden, sagt er nicht.
Das kommt wieder durch die Hintertür über λ=c/f.
Was du mit Abtastfrequenz >= 2x Signalfrequenz erreichst ist, dass du die Auslenkungsrichtung jedes einzelnen Wellenbergs erkennst, womit mein Trick mit dem Gleichrichter nutzlos wird. Du hast so pro Welle zwei bzw. drei Abtastwerte, je nachdem ob du ein offenes oder geschlossenes Intervall definierst.
Der Unterschied zwischen wanne und Shannon ist, dass sich wanne eine in der Zeit eingefrorene Welle über ihre gesamte Länge anschaut, während Shannon sich an einen bestimmten Punkt stellt und dort die Welle anschaut, während sie an ihm vorbei zieht.
Das Eine ist genauso gut wie das Andere. Nur kommt Shannon ohne Zeitmaschine aus.

Zu deinen akustischen Ausführungen kann ich mangels Fachkenntnis/Fachwortschatz nichts aussagen.

Jana66
Beiträge: 3889
Registriert: 03.02.2016 12:41:11

Re: "Kopierschutz"

Beitrag von Jana66 » 21.08.2018 15:07:17

hikaru hat geschrieben: ↑ zum Beitrag ↑
21.08.2018 15:02:35
Ok, schließen wir eine Wette ab! Ich zeige dir die erste Hälfte einer Welle und du malst mir die zweite Hälfte auf. Wenn die richtig ist, hast du gewonnen.
Während du den Stift holst, hole ich den Gleichrichter.
Unterscheide bitte Welle und Signal (am Gleichrichter). :wink: Vor dem Gleichrichter hat man Wechselspannung (harmonisches Signal) danach ein nicht-harmonisches Signal - welches man jedoch mittels mehrerer überlagerter harmonischer Signale darstellen kann. Wellen rieche ich hier nicht, da muss schon was schwingen. Shannon betrachtet "nur" Signale und deren Informationen. Ich gebe dir Recht, dass Ausschnitte aus Signalen Ausschnitte aus Informationen sind. Also verlustbehaftet.
Zu deinen akustischen Ausführungen kann ich mangels Fachkenntnis/Fachwortschatz nichts aussagen.
Qualitativ gleiche Formeln - nur die Formelzeichen wechseln entsprechend der betrachteten physikalischen Größen.
Wenn keiner was sagt, wird sich nichts ändern. Wenn alle nur reden ebenfalls nicht.

Benutzeravatar
hikaru
Beiträge: 9899
Registriert: 09.04.2008 12:48:59

Re: "Kopierschutz"

Beitrag von hikaru » 21.08.2018 15:23:57

Jana66 hat geschrieben: ↑ zum Beitrag ↑
21.08.2018 15:07:17
Unterscheide bitte Welle und Signal (am Gleichrichter). :wink:
wanne möchte Signale aus einem Kabelstück holen, wo schon nicht klar ist, ob da überhaupt die Trägerwelle reinpasst. Beide befinden sich also offensichtlich in der selben Größenordnung (einfachster Fall: beide gleich).
Wenn du nun mit drei Messungen zwei Wellenberge misst, woher weißt du dann, ob dir das dazwischenliegende Tal durch Unterabtastung verlorengegangen ist, oder ob da ein Gleichrichter im Spiel ist, von dem du nichts weißt? Das könnten jeweils verschiedene Signale sein.

Antworten