Hallo Community!
Mir ist es mit viel Unterstützung hier im Board gelungen 1080p Videos mit VLC auf Debian (Basis Pi 3) ruckelfrei zum laufen zu bringen.
Meine Erfahrung möchte ich hier kurz als Tutorial zusammen fassen.
Was man noch anmerken sollte, bevor jemand meckert: Der Player zieht sich einen OMX stream und somit ist das Bild in seiner Auflösung wohl fix (ich habe noch nichts anderes finden können).
Das navigieren ist etwas gewöhnungsbedüftig, funktioniert aber.
Wer ein OS als reinen Mediaplayer sucht, sollte sich in Richtung Kodi umschauen!
Ich habe also Debian von der offiziellen Quelle in Version "2016-05-27-raspbian-jessie" verwendet und nach der offiziellen Anleitung mit Win32DiskImager auf den USB Stick gespielt.
Nach Neuinstall ist kein VLC installiert und ich habe diesen neu kompiliert nach Anleitung von meigrafd zum kompilieren des VLC mit Hardwareunterstützung aus diesem Beitrag (klick mich):
sudo -i
cd /usr/src
wget http://download.videolan.org/vlc/2.2.2/vlc-2.2.2.tar.xz
tar Jxf vlc-2.2.2.tar.xz
apt-get update
apt-get install autopoint gettext liba52-0.7.4-dev libaa1-dev libasound2-dev libass-dev libavahi-client-dev libavc1394-dev libavcodec-dev libavformat-dev libbluray-dev libcaca-dev libcddb2-dev libcdio-dev libchromaprint-dev libdbus-1-dev libdc1394-22-dev libdca-dev libdirectfb-dev libdvbpsi-dev libdvdnav-dev libdvdread-dev libegl1-mesa-dev libfaad-dev libflac-dev libfluidsynth-dev libfreerdp-dev libfreetype6-dev libfribidi-dev libgl1-mesa-dev libgles1-mesa-dev libgles2-mesa-dev libgnutls28-dev libgtk2.0-dev libidn11-dev libiso9660-dev libjack-jackd2-dev libkate-dev liblircclient-dev liblivemedia-dev liblua5.2-dev libmad0-dev libmatroska-dev libmodplug-dev libmpcdec-dev libmpeg2-4-dev libmtp-dev libncursesw5-dev libnotify-dev libogg-dev libomxil-bellagio-dev libopus-dev libpng12-dev libpulse-dev libqt4-dev libraw1394-dev libresid-builder-dev librsvg2-dev libsamplerate0-dev libschroedinger-dev libsdl-image1.2-dev libsdl1.2-dev libshine-dev libshout3-dev libsidplay2-dev libsmbclient-dev libspeex-dev libspeexdsp-dev libssh2-1-dev libswscale-dev libtag1-dev libtheora-dev libtwolame-dev libudev-dev libupnp-dev libv4l-dev libva-dev libvcdinfo-dev libvdpau-dev libvncserver-dev libvorbis-dev libx11-dev libx264-dev libxcb-composite0-dev libxcb-keysyms1-dev libxcb-randr0-dev libxcb-shm0-dev libxcb-xv0-dev libxcb1-dev libxext-dev libxinerama-dev libxml2-dev libxpm-dev libzvbi-dev lua5.2 oss4-dev pkg-config zlib1g-dev libtool build-essential autoconf
cd vlc-2.2.2
export ACLOCAL_ARGS="-I /usr/share/aclocal"
./bootstrap
CFLAGS="-I/opt/vc/include/ -I/opt/vc/include/interface/vcos/pthreads -I/opt/vc/include/interface/vmcs_host/linux -I/opt/vc/include/interface/mmal -I/opt/vc/include/interface/vchiq_arm -I/opt/vc/include/IL -I/opt/vc/include/GLES2 -mfloat-abi=hard -mcpu=cortex-a7 -mfpu=neon-vfpv4" CXXFLAGS="-I/opt/vc/include/ -I/opt/vc/include/interface/vcos/pthreads -I/opt/vc/include/interface/vmcs_host/linux -I/opt/vc/include/interface/mmal -I/opt/vc/include/interface/vchiq_arm -I/opt/vc/include/IL -mfloat-abi=hard -I/opt/vc/include/GLES2 -mcpu=cortex-a7 -mfpu=neon-vfpv4" LDFLAGS="-L/opt/vc/lib" ./configure --prefix=/usr --enable-omxil --enable-omxil-vout --enable-rpi-omxil --disable-mmal-codec --disable-mmal-vout --enable-gles2 --enable-gles1 --enable-run-as-root
make -j4 && make install
exitDas Ergebnis: Ich kann endlich bei meinem 1080p Testvideo "Micayala" von divx.com ein laufendes Bild sehen.
Bei dem Video zeigte sich bei schnellen Stellen (z.B. ab 0:28), dass irgendwas nicht hinterher kommt, Blockbildung, kurze Hängerlein...
Noch einmal die Einstellung im Audio und Videobereich geprüft. (So wie es bei meigrafd in der Anleitung steht ist es bei mir nicht mehr ganz, der Audiobereich bietet nun mehr Auswahl...)
Ein Test zeigt, es ist Leistungstechnisch total wumpe was im Audiobereich ausgwählt wird und hilft mir bei der Ruckelproblematik nicht weiter.
Bei mir steht nun Audio auf "default" und Video auf "OpenMax IL video Output".
Ich habe also mit den Tipps von meigrafd weiter gemacht, nun die Leistungsoptimierung (overclocking).
Leider bewirkten die Tipps aus dem Bereich [ALL] nur eine Verschlimmerung und ich habe mir eine andere Anleitung für die "Optimierung" des Pi3 ran gezogen.
Da ich von Tuning eigentlich überhaupt nichts halte, habe ich mich für "moderate Werte" aus der Anleitung entschieden.
Mit dem Editor also in der /boot/config.txt am Ende folgende Zeilen eingefügt:
[size=10]arm_freq=1300
core_freq=500
sdram_freq=500
over_voltage=2
[/size]Tipp: mit lscpu kann man die eingegebenen Frequenzen überprüfen und mit vcgencmd measure_temp die aktuelle Temparatur abfragen.
Ich hatte nun eine Temparatur von rund 65°C bei 2Min. Videolaufzeit. Der Pi steckt aktuell in einem Case und hat keine Kühler drauf.
Wer vor hat sein Heimkino damit zu betreiben, kühlt den Pi besser mit Kühlrippen und/oder aktiv, das tut den Chips und Kondensatoren gut 
Da sich die Übertaktung wirklich (mit diesen Werten) im Rahmen hält, kann man das wohl gut vertreten.
Ich danke allen für eure Unterstütung und gute Arbeit! 
Gruß Workx