KVM/QEMU Routing Problem

Alle weiteren Dienste, die nicht in die drei oberen Foren gehören.
Antworten
Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

KVM/QEMU Routing Problem

Beitrag von Roonix » 19.07.2019 10:40:31

Hallo liebes Forum,
ich habe ein kleines Problemchen dass ich nicht weiter lösen kann. Ein anderes Forenmitglied hat mir diese Lösung vorgeschlagen, antwortet aber leider nichtmehr und so brennt mir die Zeit etwas im Nacken.

Ich möchte für meine VM's ein Testnetzwerk erstellen bevor sie ins Produktivnetz gehen. Dazu habe ich in der Fritzbox eine statische IPv4 Route erstellt:

Bild

Meine FritzBox hat die IP Adresse 192.168.223.254.
Nun habe ich auf meinem Debian Host System eine zweite Bridge br1 wie folgt konfiguriert:

Bild

Nun gebe ich bei der Installation einer neuen VM mit dem Adapter br1 folgendes bei der Netzwerkkonfiguration ein:
IP: 192.168.224.XXX /24
Gateway: 192.168.224.254
DNS: 192.168.223.253

Warum bekomme ich keine Connection in das andere Netz? Ein Ping über br1 in das .223: Netz funktioniert leider auch nicht. Hoffentlich kann mir jemand weiterhelfen.

Liebe Grüße, Patrick

Benutzeravatar
bluestar
Beiträge: 2346
Registriert: 26.10.2004 11:16:34
Wohnort: Rhein-Main-Gebiet

Re: KVM/QEMU Routing Problem

Beitrag von bluestar » 19.07.2019 11:11:46

Du musst in der Fritzbox als Gateway für das Netz 192.168.224.0/255.255.255.0 die IP-Adresse deines Servers eintragen die 192.168.223.201.

Deine Bridge „br1“ musst du ohne „bridge_port eno3“ einrichten und ohne „gateway 192.168.223.254“.

Dann musst du IP-Forwarding aktivieren:

Code: Alles auswählen

sysctl -w net.ipv4. ip_forward=1
Deine VMs hängst du an br1 und die bekommen IPs von 192.168.224.2 bis 192.168.224.254, mit der Gateway-IP 192.168.224.1 und dem DNS-Server 192.168.223.254.

P.S.: Poste Config Beispiele besser in Code-Tags statt Screenshots.

Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

Re: KVM/QEMU Routing Problem

Beitrag von Roonix » 19.07.2019 13:19:05

bluestar hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 11:11:46
Du musst in der Fritzbox als Gateway für das Netz 192.168.224.0/255.255.255.0 die IP-Adresse deines Servers eintragen die 192.168.223.201.

Deine Bridge „br1“ musst du ohne „bridge_port eno3“ einrichten und ohne „gateway 192.168.223.254“.

Dann musst du IP-Forwarding aktivieren:

Code: Alles auswählen

sysctl -w net.ipv4. ip_forward=1
Deine VMs hängst du an br1 und die bekommen IPs von 192.168.224.2 bis 192.168.224.254, mit der Gateway-IP 192.168.224.1 und dem DNS-Server 192.168.223.254.

P.S.: Poste Config Beispiele besser in Code-Tags statt Screenshots.
Danke bluestar, du bist mein Held! :THX:
Dass br1 keinen physikalischen Netzwerk Port bridgen soll war mir nicht klar. ipv4_forwarding hatte ich schon aktiviert.

Jetzt habe ich noch drei Fragen:
1. Warum taucht eno3 immernoch als br1 interface auf?

Code: Alles auswählen

root@ber-host01-deb ~ # brctl show
bridge name     bridge id               STP enabled     interfaces
br0             8000.ac1f6b7c91e6       no              eno1
                                                        vnet0
                                                        vnet1
br1             8000.ac1f6b7c91e8       no              eno3
                                                        vnet2
Und warum ist br1 zwar als Interface für virsh gelistet jedoch nicht als net?

Code: Alles auswählen

root@ber-host01-deb ~ # virsh net-list --all
 Name                 State      Autostart     Persistent
----------------------------------------------------------
 br0                  active     yes           yes
 default              inactive   no            yes

root@ber-host01-deb ~ # virsh iface-list
 Name                 State      MAC Address
---------------------------------------------------
 br0                  active     ac:1f:6b:7c:91:e6
 br1                  active     ac:1f:6b:7c:91:e8
 eno3                 active     ac:1f:6b:7c:91:e8
 lo                   active     00:00:00:00:00:00
3. Wenn IPv4 Forwarding aktiviert ist, wird dann sämtlicher Traffix einfach durchgeschleift bzw. ist dann auch ein DHCP Relay Agent aktiv?
Denn nachdem ich einen DHCP Server auf einer VM im Testnetz aufgesetz habe (für die Range 192.168.224.2 - 192.168.224.253) kommen die DHCPREQUEST für das 223er Netz durch. Das dürfte eigentlich nicht sein.

Code: Alles auswählen

root@vm03-pxe ~ # journalctl -fu isc-dhcp-server
-- Logs begin at Fri 2019-07-19 13:13:32 CEST. --
Jul 19 13:50:40 vm03-pxe dhcpd[1391]: Abandoning IP address 192.168.224.2: pinged before offer
Jul 19 13:50:40 vm03-pxe dhcpd[1391]: DHCPREQUEST for 192.168.223.4 (192.168.223.254) from 88:d7:f6:a2:4c:a0 via ens2: ignored (not authoritative).
Jul 19 13:52:27 vm03-pxe systemd[1]: Starting LSB: DHCP server...
Jul 19 13:52:27 vm03-pxe isc-dhcp-server[1464]: Launching IPv4 server only.
Jul 19 13:52:27 vm03-pxe dhcpd[1475]: Wrote 0 deleted host decls to leases file.
Jul 19 13:52:27 vm03-pxe dhcpd[1475]: Wrote 0 new dynamic host decls to leases file.
Jul 19 13:52:27 vm03-pxe dhcpd[1475]: Wrote 1 leases to leases file.
Jul 19 13:52:27 vm03-pxe dhcpd[1476]: Server starting service.
Jul 19 13:52:29 vm03-pxe isc-dhcp-server[1464]: Starting ISC DHCPv4 server: dhcpd.
Jul 19 13:52:29 vm03-pxe systemd[1]: Started LSB: DHCP server.
Jul 19 13:59:31 vm03-pxe dhcpd[1476]: DHCPDISCOVER from 52:54:00:0b:4a:78 via ens2
Jul 19 13:59:31 vm03-pxe dhcpd[1391]: DHCPDISCOVER from 52:54:00:0b:4a:78 via ens2
Jul 19 13:59:31 vm03-pxe dhcpd[1476]: DHCPREQUEST for 192.168.223.12 (192.168.223.254) from 52:54:00:0b:4a:78 via ens2: ignored (not authoritative).
Jul 19 13:59:31 vm03-pxe dhcpd[1391]: DHCPREQUEST for 192.168.223.12 (192.168.223.254) from 52:54:00:0b:4a:78 via ens2: ignored (not authoritative).
Jul 19 13:59:32 vm03-pxe dhcpd[1476]: DHCPOFFER on 192.168.224.3 to 52:54:00:0b:4a:78 via ens2
Jul 19 13:59:32 vm03-pxe dhcpd[1391]: DHCPOFFER on 192.168.224.3 to 52:54:00:0b:4a:78 via ens2
Vielen Dank und liebe Grüße, Patrick

Benutzeravatar
bluestar
Beiträge: 2346
Registriert: 26.10.2004 11:16:34
Wohnort: Rhein-Main-Gebiet

Re: KVM/QEMU Routing Problem

Beitrag von bluestar » 20.07.2019 13:38:59

Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Jetzt habe ich noch drei Fragen:
1. Warum taucht eno3 immernoch als br1 interface auf?

Code: Alles auswählen

root@ber-host01-deb ~ # brctl show
bridge name     bridge id               STP enabled     interfaces
br0             8000.ac1f6b7c91e6       no              eno1
                                                        vnet0
                                                        vnet1
br1             8000.ac1f6b7c91e8       no              eno3
                                                        vnet2
Hast du dein Netzwerk nach den Änderungen auch neu gestartet?
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Und warum ist br1 zwar als Interface für virsh gelistet jedoch nicht als net?
[/code]
Hast du in virsh ein Netzwerk über br1 definiert?
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
3. Wenn IPv4 Forwarding aktiviert ist, wird dann sämtlicher Traffix einfach durchgeschleift bzw. ist dann auch ein DHCP Relay Agent aktiv?
Wenn du einen DHCP Relay Agenten nutzen willst, dann musst du ihn installieren & konfigurieren.
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Denn nachdem ich einen DHCP Server auf einer VM im Testnetz aufgesetz habe (für die Range 192.168.224.2 - 192.168.224.253) kommen die DHCPREQUEST für das 223er Netz durch. Das dürfte eigentlich nicht sein.
Vermutlich weil deine Bridge br1 noch an eno3 hängt.

Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

Re: KVM/QEMU Routing Problem

Beitrag von Roonix » 23.07.2019 10:46:25

bluestar hat geschrieben: ↑ zum Beitrag ↑
20.07.2019 13:38:59
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Jetzt habe ich noch drei Fragen:
1. Warum taucht eno3 immernoch als br1 interface auf?

Code: Alles auswählen

root@ber-host01-deb ~ # brctl show
bridge name     bridge id               STP enabled     interfaces
br0             8000.ac1f6b7c91e6       no              eno1
                                                        vnet0
                                                        vnet1
br1             8000.ac1f6b7c91e8       no              eno3
                                                        vnet2
Hast du dein Netzwerk nach den Änderungen auch neu gestartet?
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Und warum ist br1 zwar als Interface für virsh gelistet jedoch nicht als net?
[/code]
Hast du in virsh ein Netzwerk über br1 definiert?
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
3. Wenn IPv4 Forwarding aktiviert ist, wird dann sämtlicher Traffix einfach durchgeschleift bzw. ist dann auch ein DHCP Relay Agent aktiv?
Wenn du einen DHCP Relay Agenten nutzen willst, dann musst du ihn installieren & konfigurieren.
Roonix hat geschrieben: ↑ zum Beitrag ↑
19.07.2019 13:19:05
Denn nachdem ich einen DHCP Server auf einer VM im Testnetz aufgesetz habe (für die Range 192.168.224.2 - 192.168.224.253) kommen die DHCPREQUEST für das 223er Netz durch. Das dürfte eigentlich nicht sein.
Vermutlich weil deine Bridge br1 noch an eno3 hängt.
Hallo bluestar,
vielen Dank für deine Antwort. Da ich die letzten Tage nicht Zuhause war, erst jetzt die Antwort:
Seit ich deine Änderungen aus dem vorherigen Post (Konfiguration für br1 ändern) vorgenommen habe und das Host System nun neugestartet habe funktionier br1 nichtmehr:

Code: Alles auswählen

1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN gt qlen 1
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
       valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host
       valid_lft forever preferred_lft forever
2: eno1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq master b group default qlen 1000
    link/ether ac:1f:6b:7c:91:e6 brd ff:ff:ff:ff:ff:ff
3: eno2: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN group d 1000
    link/ether ac:1f:6b:7c:91:e7 brd ff:ff:ff:ff:ff:ff
4: eno3: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UPult qlen 1000
    link/ether ac:1f:6b:7c:91:e8 brd ff:ff:ff:ff:ff:ff
    inet6 2a02:8106:23:9500:ae1f:6bff:fe7c:91e8/64 scope global mngtmic
       valid_lft 4569sec preferred_lft 1869sec
    inet6 fe80::ae1f:6bff:fe7c:91e8/64 scope link
       valid_lft forever preferred_lft forever
5: eno4: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN group d 1000
    link/ether ac:1f:6b:7c:91:e9 brd ff:ff:ff:ff:ff:ff
6: br0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc noqueue statdefault qlen 1000
    link/ether ac:1f:6b:7c:91:e6 brd ff:ff:ff:ff:ff:ff
    inet 192.168.223.201/24 brd 192.168.223.255 scope global br0
       valid_lft forever preferred_lft forever
    inet6 2a02:8106:23:9500:ae1f:6bff:fe7c:91e6/64 scope global mngtmic
       valid_lft 4569sec preferred_lft 1869sec
    inet6 fe80::ae1f:6bff:fe7c:91e6/64 scope link
       valid_lft forever preferred_lft forever
7: vnet0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UNKNOWN group default qlen 1000
    link/ether fe:54:00:f8:36:e9 brd ff:ff:ff:ff:ff:ff
    inet6 fe80::fc54:ff:fef8:36e9/64 scope link
       valid_lft forever preferred_lft forever
8: vnet1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UNKNOWN group default qlen 1000
    link/ether fe:54:00:8b:47:39 brd ff:ff:ff:ff:ff:ff
    inet6 fe80::fc54:ff:fe8b:4739/64 scope link
       valid_lft forever preferred_lft forever
10: vnet2: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fas0 state UNKNOWN group default qlen 1000
    link/ether fe:54:00:f0:e9:3e brd ff:ff:ff:ff:ff:ff
    inet6 fe80::fc54:ff:fef0:e93e/64 scope link
       valid_lft forever preferred_lft forever

Code: Alles auswählen

# This file describes the network interfaces available on your system
# and how to activate them. For more information, see interfaces(5).

source /etc/network/interfaces.d/*

# The loopback network interface
auto lo
iface lo inet loopback

# The primary network interface
allow-hotplug eno1
iface eno1 inet manual
#       address 192.168.223.201/24
#       gateway 192.168.223.254
#       # dns-* options are implemented by the resolvconf package, if installed
#       dns-nameservers 192.168.223.254
#       dns-search japasp.de

auto br0
iface br0 inet static
        address 192.168.223.201
        netmask 255.255.255.0
        gateway 192.168.223.254
        dns-nameservers 192.168.223.253
        bridge_ports eno1
        bridge_fd 5

auto br1
iface br1 inet static
        address 192.168.224.1
        netmask 255.255.255.0
        dns-nameservers 192.168.223.253

Code: Alles auswählen

root@ber-host01-deb ~ # journalctl -xe
--
-- Unit user@0.service has finished starting up.
--
-- The start-up result is done.
Jul 23 10:42:26 ber-host01-deb systemd[1]: Starting Raise network interfaces...
-- Subject: Unit networking.service has begun start-up
-- Defined-By: systemd
-- Support: https://www.debian.org/support
--
-- Unit networking.service has begun starting up.
Jul 23 10:42:26 ber-host01-deb ifup[2683]: Cannot find device "br1"
Jul 23 10:42:26 ber-host01-deb ifup[2683]: ifup: failed to bring up br1
Jul 23 10:42:26 ber-host01-deb systemd[1]: networking.service: Main process exit
Jul 23 10:42:26 ber-host01-deb systemd[1]: Failed to start Raise network interfa
-- Subject: Unit networking.service has failed
-- Defined-By: systemd
-- Support: https://www.debian.org/support
--
-- Unit networking.service has failed.
--
-- The result is failed.
Jul 23 10:42:26 ber-host01-deb systemd[1]: networking.service: Unit entered fail
Jul 23 10:42:26 ber-host01-deb systemd[1]: networking.service: Failed with resul
Ich bin wirklich ratlos momentan :(

Benutzeravatar
mig
Beiträge: 152
Registriert: 26.02.2003 13:21:58
Wohnort: wien
Kontaktdaten:

Re: KVM/QEMU Routing Problem

Beitrag von mig » 23.07.2019 12:43:32

Hallo

Als erster Schnellschuß br1 hat kein pysikalisches Interface mehr drinnen
lt doku ist er dann auf none zu stellen

Als hau mal bei deiner br1 in /etc/network/interfaces folgende Zeile rein

Code: Alles auswählen

bridge_ports none
https://wiki.ubuntuusers.de/Netzwerkbr%C3%BCcke/
Unter der Überschrift Einrichtung

LG
Michael

Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

Re: KVM/QEMU Routing Problem

Beitrag von Roonix » 25.07.2019 11:23:50

mig hat geschrieben: ↑ zum Beitrag ↑
23.07.2019 12:43:32
Hallo

Als erster Schnellschuß br1 hat kein pysikalisches Interface mehr drinnen
lt doku ist er dann auf none zu stellen

Als hau mal bei deiner br1 in /etc/network/interfaces folgende Zeile rein

Code: Alles auswählen

bridge_ports none
https://wiki.ubuntuusers.de/Netzwerkbr%C3%BCcke/
Unter der Überschrift Einrichtung

LG
Michael
Hallo Mig,
entschuldige die späte Antwort. Vielen Dank für deinen Hinweis! Jetzt funktioniert die bridge, das Problem mit den DHCPREQ besteht leider immernoch und hindert mich daran das Netzwerk zu benutzen. Auch eine iptables Rule auf die von DHCP benutzen Ports für die bridge hat nichts geändert...

Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

Re: KVM/QEMU Routing Problem

Beitrag von Roonix » 25.07.2019 11:25:58

Roonix hat geschrieben: ↑ zum Beitrag ↑
25.07.2019 11:23:50
mig hat geschrieben: ↑ zum Beitrag ↑
23.07.2019 12:43:32
Hallo

Als erster Schnellschuß br1 hat kein pysikalisches Interface mehr drinnen
lt doku ist er dann auf none zu stellen

Als hau mal bei deiner br1 in /etc/network/interfaces folgende Zeile rein

Code: Alles auswählen

bridge_ports none
https://wiki.ubuntuusers.de/Netzwerkbr%C3%BCcke/
Unter der Überschrift Einrichtung

LG
Michael
Hallo Mig,
entschuldige die späte Antwort. Vielen Dank für deinen Hinweis! Jetzt funktioniert die bridge, das Problem mit den DHCPREQ besteht leider immernoch und hindert mich daran das Netzwerk zu benutzen. Auch eine iptables Rule auf die von DHCP benutzen Ports für die bridge hat nichts geändert...
Wahrscheinlich funktioniert das nicht, da br1 als Gateway die FritzBox aus dem .223er Netz verwendet und theoretisch erst dort der DHCP Broadcast endet.

Roonix
Beiträge: 57
Registriert: 01.04.2019 11:56:52

Re: KVM/QEMU Routing Problem

Beitrag von Roonix » 25.07.2019 11:26:17

mig hat geschrieben: ↑ zum Beitrag ↑
23.07.2019 12:43:32
Hallo

Als erster Schnellschuß br1 hat kein pysikalisches Interface mehr drinnen
lt doku ist er dann auf none zu stellen

Als hau mal bei deiner br1 in /etc/network/interfaces folgende Zeile rein

Code: Alles auswählen

bridge_ports none
https://wiki.ubuntuusers.de/Netzwerkbr%C3%BCcke/
Unter der Überschrift Einrichtung

LG
Michael

Hallo Mig,
entschuldige die späte Antwort. Vielen Dank für deinen Hinweis! Jetzt funktioniert die bridge, das Problem mit den DHCPREQ besteht leider immernoch und hindert mich daran das Netzwerk zu benutzen. Auch eine iptables Rule auf die von DHCP benutzen Ports für die bridge hat nichts geändert...
Wahrscheinlich funktioniert das nicht, da br1 als Gateway die FritzBox aus dem .223er Netz verwendet und theoretisch erst dort der DHCP Broadcast endet. Vielleicht gibt es da noch eine andere Lösung?

Benutzeravatar
bluestar
Beiträge: 2346
Registriert: 26.10.2004 11:16:34
Wohnort: Rhein-Main-Gebiet

Re: KVM/QEMU Routing Problem

Beitrag von bluestar » 25.07.2019 12:23:51

Wo laufen denn nun bei dir DHCP-Server, neben der Fritzbox und wie seht die jeweilige Konfiguration aus?

Antworten