Dat lineaire kabeltelevisie het al tijden moeilijk heeft, zal niemand verbazen. Toch worden ook in deze oldskool uitzendingen nieuwe technieken toegepast. Zo is bijvoorbeeld het gebruik van augmented reality de laatste jaren volwassen geworden. En door alle beperkingen die het coronavirus met zich meebrengt, is er de laatste maanden bovendien een opleving te zien in het gebruik van virtuele studio’s en on-air graphics. In deze video laten we zien hoe AR zoal wordt toegepast en kijken we welke technieken eraan te pas komen. We gaan daarvoor langs bij NEP Graphics in Hilversum, dat verantwoordelijk is voor het AR-deel van de productie van onder andere Ziggo Sport.
Hoe augmented reality televisie verrijkt - Achter de schermen bij Ziggo Sport
Reacties (128)
Voor een Tweakers publiek had ik het gaaf gevonden als er nog wat meer was laten zien van de hele IT infrastructuur die hier achter zit. Bij NEP noemen we dit het 'Centralized production platform'.
Beknopte extra info voor mensen die dat interessant vinden:
De beelden uit de camera's (zoals bijv die in de studio van Ziggo) gaan via een fiber verbinding naar een grote video matrix die staat in het datacenter van NEP. Vanuit hier kunnen beelden gerouteerd worden naar verschillende locaties, zoals bijvoorbeeld de AR render engines, die ook in het datacenter hangen. Of bijvoorbeeld naar 1 van onze cloud regies, video & audio control rooms of regiewagens.
NEP is een bedrijf met meerdere locaties wereldwijd. We hebben daarom ook directe fibers liggen naar locaties in andere landen. Hierdoor beperkt de infrastructuur zich dus niet tot Hilversum. Zo kan er bijvoorbeeld een show live zijn in Londen, terwijl de mensen die de show bedienen op dat moment in Hilversum zitten. Hier daarover meer voor de geinteresseerden: https://youtu.be/0WO65RJL7Yw
Om een AR productie neer te zetten zoals getoond in de video, is zo'n centralized production platform niet perse noodzakelijk. De AR render engines kunnen in principe ook gewoon workstations op de studiovloer zijn. Maar met deze hele infrastructuur kunnen we wel veel flexibeler zijn, veel makkelijker opschalen en de beschikbare rekenkracht veel efficienter inzetten.
Uiteraard zijn we bezig met verdere optimalisaties om de vertraging nog meer terug te kunnen brengen. Zo zijn de verbindingen tussen de video matrix en de AR render engines momenteel SDI (koper). Door dit bijvoorbeeld te vervangen door fiber verbinding, zou je zo maar eens 1 of 2 frames minder vertraging kunnen hebben. Ook softwarematig valt er altijd wat te winnen natuurlijk.
Het blijft wel mooi om te zien wat tegenwoordig allemaal mogelijk is.
Dan kijk je echt de verkeerde kant opPijn in mijn ogen als presentator. Ik kan geen groen meer zien.
Epic is op dit moment druk bezig ervoor te zorgen dat er ook echte animatiefilm kwaliteit (zoals bijvoorbeeld van Pixar) uit Unreal kan komen. Door Corona gaat ineens alles over virtual production!
Ik ben benieuwd hoe ver we met realtime graphics kunnen komen.
Tot de Mandalorian werd Unreal eigenlijk alleen maar gebruikt voor previz. Het is erg interessant om te zien hoeveel Epic op dit moment uitgeeft om door te breken in virtual production en animatie.
https://www.youtube.com/watch?v=03XMTFjZaUY
En hier nog duidelijk verschillen met gebruik van greenscreen in beeld gebracht:Het is erg interessant om te zien hoeveel Epic op dit moment uitgeeft om door te breken in virtual production en animatie.
https://www.youtube.com/watch?v=03XMTFjZaUY
https://www.youtube.com/watch?v=Ufp8weYYDE8
[Reactie gewijzigd door r132546e op 22 juli 2024 14:43]
Wat bedoel je met 'vroeger'? In ieder geval sinds 2005 was het al mogelijk om grid computing in te zetten per project, aanbieders van rekenkracht specifiek voor renderen bestaan al veel langer dan je schijnt te denken.Vroeger moesten animatie en VFX studio's alles in-house renderen. Frames nemen nog steeds makkelijk 20-40 uur in beslag alleen kunnen studio's nu de cloud gebruiken.
Wat je zegt over Disney films opnieuw renderen in 8k dat klopt niet. Alhoewel het technisch mogelijk zou zijn om bijvoorbeeld Toy Story 1 waarschijnlijk in een half uur of zo te renderen, gebeurt dit niet. De software die Pixar vandaag de dag gebruikt ondersteund geen van de bestanden die in die tijd zijn gecreëerd.
De Renderman van toen is niet de Renderman vandaag. Hetzelfde geldt voor programma's als Maya, Katana, Houdini enzovoorts. Veel van deze applicaties bestonden toen nog niet eens.
Met andere woorden: ik heb nooit aangegeven dat "disney films" opnieuw gerenderd kunnen worden door Renderman. Alleen de pixar films. Tevens kun je op de site van Pixar nalezen dat de engine en contents al 30 jaar worden onderhouden door het "Renderman Team".
Deze zal vast en zeker geëvolueerd zijn en niet meer 1:1 het zelfde zijn; maar dat is ook precies wat ik zeg. In 1984 bestond 8K niet. sterker nog: 4K ook niet, 1080P ook niet en 720P ook niet. toen was het allemaal nog Pal, SECAM en NTSC met beeldlijnen tot maximaal 576P. Dus nee, dat is niet meer het zelfde. Maar dat heb ik ook nooit beweerd toch?
Wellicht is het handig mijn post wat minder te lezen zoals je hem wil lezen.
Toy Story 1 zul je in 8K nooit in een half uur kunnen renderen; da's natuurlijk onzin. zo'n film duurt ongeveer 90 minuten; en dat op 8K met 60 frames per seconde.. daar ben je wel even zoet mee. Wellicht dat het wel lukt in 240P.
Leuk weetje: Pixar was met Renderman al in 1984 bezig met Ray-tracing.. Daar hebben wij het ruim 30 jaar later pas over.
Nog een leuk weetje over Pixar: een van de eigenaren was Stephen Paul Jobs. lees na op: https://en.wikipedia.org/wiki/Pixar
Het klopt dat het Pixar team in Seattle (dat Renderman ontwikkelt en op afstand staat van Pixar Animation in Emeryville) al vanaf het begin met Renderman bezig is. Dit is helemaal waar.
De stelling over 8k of 240p is speculatief. Er zijn geen reflections, sss, refractions, displacement en GI. Caustics, fur en volumes zitten er ook niet in. De textures die er zijn hebben allemaal een ongelofelijk lage resolutie.
Toy Story 1 bestond uit 114240 frames. Stel dat een node van nu (high end xeon) er 20 seconden over doet om zo'n simpel frame van toen te renderen en dat ze er 2000 hebben. 114240*20 sec = 2284800 sec. 2284800/60 = 38080 min. 38080/2000 = 19.04 minuten.
Als je die film op 60fps als een soort spel zou willen renderen doe je er dan 2,5x zo lang over. 24fps --> 60fps
[Reactie gewijzigd door VfxArtist op 22 juli 2024 14:43]
Het lijkt me wel echt ontzettend raar om niets fysiek om je heen te hebben. Dit kwam niet echt naar voren in de video, maar hoe weet een persoon waar die wel of niet kan staan/lopen/bewegen?
Om het allemaal zo te zien is het toch wel erg knap wat we nu al allemaal kunnen en dit ook met open source software wordt gedaan van Nederlandse bodem.
[Reactie gewijzigd door HollowGamer op 22 juli 2024 14:43]
Vooral de rondje op de sim die Doornbos doet staat regelmatig op Instagram.
Opvallend hoe weinig licht hij daar heeft trouwens.
Complimenten aan @TradeMarkNL en @LukevanDrie voor deze bijdrage!
Meer van dit!
[Reactie gewijzigd door j4ck1nth3b0x op 22 juli 2024 14:43]
United daarin tegen maakt deel uit van de euromedia group een samenwerking van 21 bedrijven met bij elkaar zo'n 1500 medewerkers.
[Reactie gewijzigd door Quantum_Cookie op 22 juli 2024 14:43]
Ik zal ff zoeken of ik het kan vinden, maar ik geloof dat daarin werd gesteld dat het de grootste was in AR, niet perse in productie.
Maaaar, 1500 vs 4000 is inderdaad geen spannende vergelijk
Wel erg indrukwekkend om te zien hoe dit soort technieken werken. Voegt voor mij echt iets toe aan de beleving van dit programma.
Wie wil er bij een NEP-bedrijf werken?
Edit: als medewerker genoeg gehoord, maar het heeft echt 0 invloed op alles wat we doen.
[Reactie gewijzigd door Camiel op 22 juli 2024 14:43]
Deze stomme grapjes worden zo vaak gemaakt omdat het stomme grapjes zijn. Iedereen in het veld weet dit.
Als Tweaker vind je vaak veel te veel interessant, en dit is weer typisch zo een voorbeeld. Ik zou haast gratis een jaar willen komen werken bij jullie om eens te proeven aan deze techniek. Heerlijk interessant!.
Daarnaast moet ik jullie bedanken omdat ik samen met mijn vader F1 kijk, en we helemaal fan zijn van de productie tegenwoordig.
Goed bezig!
Maar leuk om te horen, het is ook leuk om dit soort werk te doen, apart wereldje ☺️
[Reactie gewijzigd door Camiel op 22 juli 2024 14:43]
Goed plan, ik kom alleen niet veel verder dan wat tekst motion tracken
En dat kost me al 3 toetsenborden aan frustratie. Nu mag ik hopen dat jij niet eindeloos trackers loopt te Tweaken, maar ik was er snel klaar mee
[Reactie gewijzigd door World Citizen op 22 juli 2024 14:43]
Wat een crash was dat zeg!
Nou, kijk maar naar Star Trek. Allerlei zaken, die daar zijn bedacht, vinden we nu in ons leven heel gewoon.
Als volgende het ‘holodeck’...? Een volledige onderdompeling in een virtuele wereld met tastbare figuren en objecten, levensechte interactie met virtuele mensen.
AR wordt ‘so totally mainstream’.
Ik zou in de nabije toekomst (over een paar jaar) nog wel eens een reactie van Vince willen zien op wat hij hier laat zien en zegt.
Ik kan trouwens niet wachten tot er weer zo’n mooie bijdrage van het Tweakers team komt over een onderwerp waar veel mensen in geïnteresseerd zijn.
@Appie3 Er zijn, denk ik, meer dan 3 groepen, zoals bv mensen die niets geloven, weten dat bijna alles AR of CGI erin heeft in meerdere of mindere mate en die er desondanks gewoon van genieten.....
En met deze technieken mensen op een veel makkelijker te begrijpen manier duidelijk maken wat er wordt bedoeld.... heerlijk lijkt me dat.
[Reactie gewijzigd door Tantrum op 22 juli 2024 14:43]
[Reactie gewijzigd door adjep07 op 22 juli 2024 14:43]
Sorry, flauw.
Wat ik me afvraag hoe bijv. Rob Kamphuus en Robert Doornbos weten waar ze naar moeten kijken of wijzen?
We noemen CGI films toch ook niet VR?
Of wat dacht je van games? Dat zijn ook real-time graphics, maar dus zonder de 'echte' beelden ertussen. Dat noemen we toch ook niet VR?
Voor mij is AR in ieder geval een technologie die virtuele objecten in mijn FOV projecteert terwijl ik de echte wereld navigeer. Het moet mijn omgeving tracken en niet de omgeving van de studio. Dan noem ik het AR.
De tech in het artiekel zou ik dan Virtual Film Set noemen ofzo. Maar het kapen van bestaande hypewoordjes is natuurlijk veel makkelijker.
Je mag natuurlijk vinden dat dit niet klopt. Maar dat is nou eenmaal de naam die aan deze techniek wordt gegeven. Dit is het ook al zolang het bestaat. Dat is niet even snel door NEP bedacht ofzo.
[Reactie gewijzigd door marijnhop op 22 juli 2024 14:43]
Ik zag trouwens laatst een docu over ik geloof Empire Strikes Back en daar hadden ze voor de FX shots een camera (op een camera) die naar het plafond gericht stond waar dan weer allemaal tracking-patroontjes op zaten. Zo konden ze de 2D positie en rotatie van de main camera meten. Camera-tracking systemen hebben dus een lange geschiedenis (40+ jaar).
De term AR heeft meerdere ladingen. Wat jij benoemt zou ik POV AR noemen, wat NEP doet zou ik 3rd person AR noemenVoor mij is AR in ieder geval een technologie die virtuele objecten in mijn FOV projecteert terwijl ik de echte wereld navigeer.
Er is uiteindelijk niemand wiens werkelijkheid geenhanced wordt.
Je zou denken dat het de presentator is maar die ziet dat hele effect niet voor zich, die ziet zichzelf en het effect terug op een scherm dat ergens achter de camera staat en weet zo ongeveer waarie op moet reageren. Maar niemand heeft een echte AR ervaring. Het is allemaal getruuk met compositing.
Eigenlijk nog steeds een beetje hoe de weerman het doet, beetje ongeveer in de lucht zwaaien voor een groen scherm terwijl je opzij kijkt naar een afkijk van jezelf met de virtuele weerkaart.
Ja hoor, die van de kijker uiteindelijk. Wat "werkelijkheid" is is een breed begrip. Ik zou dit wel AR noemen, aangezien je iets uitbreidt (augment) voor een (grote) groep.Er is uiteindelijk niemand wiens werkelijkheid geenhanced wordt.
En hoe verschilt dat met POV AR, om die term maar aan te houden? Dat is compositing op een bril of een object dicht bij je ogen, dit is compositing op een TV die wat verder weg staat...Het is allemaal getruuk met compositing.
CGIHoe zou jij het dan noemen?
Films doen tegenwoordig niet anders, alleen dan meestal niet in real time.
Je zou het dus real time CGI kunnen noemen.
De eerste positie tracking camera's waren al voor de originele Star Wars triologie ontwikkeld. Het idee is dus niet nieuw. AR is nu een soort modewoord.
Bij het woord AR denk ik in ieder geval aan toepassingen waarbij mijn 'reality' ge'augment' wordt en niet die van een presentator op een statisch scherm.
[Reactie gewijzigd door koelpasta op 22 juli 2024 14:43]
Niet real-time... geen AR.
Lijkt me niet zo moeilijk?
En AR is geen modewoord... het is nu dankzij de compute en techniek gewoon breed inzetbaar. Over enkele jaren een headset van Apple en het gaat langzaam mainstream.
Daarnaast is AR veel meer geschikt voor massa adoptie dan VR... dus een hype is het niet. Het is al overal, wat mensen soms niet eens in de gaten hebben.
Heu, als ik TV kijk dan is het per definitie niet 'real time' voor mij. Dus geen AR?Real-time.... dan is het AR.
Niet real-time... geen AR.
Ik vindt het wel een modewoord. Dat wil niet zeggen dat het niks wordt of niks waard is ofzo. Het betekent dat veel mensen het er een tijdje over hebben, inderdaad omdat de techniek nieuwe toepassingen toelaat en er veel in de pers over geschreven wordt enzo. En dat het daarna weer een minder populair gespreksonderwerp wordt.En AR is geen modewoord.
Wat er hype aan is is dat het 10 jaar geleden werd aangekondigd als een nieuw tijdperk waarin alles in real-time geannoteerd wordt door het semantische web bladibla.Daarnaast is AR veel meer geschikt voor massa adoptie dan VR... dus een hype is het niet.
Maar ik ben het met je eens dat AR een breder en algemener nut kan hebben dan VR.
Wel als je naar live televisie kijkt. Niet als je naar The Mandalorian kijkt.Heu, als ik TV kijk dan is het per definitie niet 'real time' voor mij. Dus geen AR?
Dit is in de brede zin CGI of meer specifiek iets als realtime overlays.
[Reactie gewijzigd door jvo op 22 juli 2024 14:43]
Precies hetzelfde als wat je smartphone met ARKit of ARCore doet.
Vandaar.
[Reactie gewijzigd door Menesis op 22 juli 2024 14:43]
Ik ben het dus niet eens met hoe jij 'reality' vertaalt naar 'videobeelden'.
Het idee is volgens mij dat mijn omgeving ge-augmented moet raken en niet dat er een presentator in een virtuele set wordt gezet en ik er vervolgens statisch naar kijk.
Helemaal niet!Precies hetzelfde als wat je smartphone met ARKit of ARCore doet.
Ik kan mn TV toch niet draaien om te kijken hoe die studio er vanuit een andere hoek uitziet? Hoe wordt mijn werkelijkheid dan opgewaardeert?
Maar voor het perspectief van de producers vind ik het wel een vorm van AR: Die kunnen ineens in realtime de set en een virtuele set samenstellen en op veranderingen inspelen. Op die manier krijg je een heel ander productieproces met meer ruimte voor spontane veranderingen en meer interactie tussen het fysieke en het digitale. Het is echt een enorm verschil met de traditionele green screen producties waarbij je achteraf pas het virtuele toevoegt ("offline rendering").
En bij gebruik van schermen ipv green screen wordt de fysieke set zelfs belicht door de virtuele set, en kunnen niet alleen de producers maar ook de acteurs de virtuele omgeving in realtime zien..
Ja, mee eens, maar dit soort technieken worden al heel lang in de filmindustrie gebruikt voor pre-vis. Ik geloof dat het al teruggaat naar de star wars prequels waar ze met tablets rondliepen en het shot (in baggerkwaliteit) van alle kanten konden bekijken. Maar volgens mij noemden ze het toen ook niet AR.Maar voor het perspectief van de producers vind ik het wel een vorm van AR: Die kunnen ineens in realtime de set en een virtuele set samenstellen en op veranderingen inspelen. Op die manier krijg je een heel ander productieproces met meer ruimte voor spontane veranderingen en meer interactie tussen het fysieke en het digitale. Het is echt een enorm verschil met de traditionele green screen producties waarbij je achteraf pas het virtuele toevoegt ("offline rendering").
Ik neem aan dat je Mandalorian-achtige sets bedoelt. Helaas is het zo dat de achtergrondprojectie vanuit het gezichtspunt van de camera wordt opgebouwt en daardoor hebben de acteurs een vertekend beeld dat varieert tussen redelijk herkenbaar en totaal vervormd. Als de camera beweegt dan schuift de hele achtergrond de tegenovergestelde richting op.En bij gebruik van schermen ipv green screen wordt de fysieke set zelfs belicht door de virtuele set, en kunnen niet alleen de producers maar ook de acteurs de virtuele omgeving in realtime zien..
Alleen jammer dat je dit nooit vanuit huis kunt doen op een Ziggo lijntje.
Alsof je meer dan 10mbps nodig hebt om fhd te streamen..
Of bedoel je het maken van zo'n set?
Ook niet moeilijk vanuit huis.. Gewoon een kamer groen schilderen...
Dat bedoel ik inderdaad. Met 1000/1000Mbps kun je misschien ook in de toekomst heel veel data offloaden om te renderen op andere lokaties of iets dergelijks.
Zoals ze nu zelf zeggen is het nu een niche onderdeel van TV/Video. Maar geloof me, straks komt er geen presentator meer naar een studio en precies wat jij zegt, groene kamers (of later niet eens meer nodig) zullen behoorlijk groeien in aantal.
Op maandag kan je een voetbal stadion doen en op dinsdag kan je een formule 1 uitzending doen. Je hoeft alleen een andere set in te laden.
Vaak echter met 120mbps.
Op dit item kan niet meer gereageerd worden.
:strip_icc():strip_exif()/u/836453/crop64cce29b5ce67_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/76569/garfield14.jpg?f=community)
:strip_icc():strip_exif()/u/156227/joschka.jpg?f=community)
:strip_icc():strip_exif()/u/581217/crop561138f7472d5_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/476457/crop5f1a9850362f5_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/289675/crop6401bf2c85501_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/246777/crop5665347035c66.jpeg?f=community)
:strip_icc():strip_exif()/u/155904/crop5ab030145f248_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/319806/crop618e726fcafae_cropped.jpg?f=community)
/u/227108/crop6027919ad38b8.png?f=community)
/u/163067/crop642eafbfecfb8_cropped.png?f=community)
:strip_icc():strip_exif()/u/19445/camiel.jpg?f=community)
/u/847681/crop642c05a60ef57_cropped.png?f=community)
:strip_icc():strip_exif()/u/583282/crop59ea0dd93a7e5_cropped.jpeg?f=community)
/u/440705/crop5f205ab3f08bf_cropped.png?f=community)
:strip_icc():strip_exif()/u/71115/plus222.jpg?f=community)
:strip_exif()/u/16793/metal.gif?f=community)
/u/69484/crop65eb3317e5e80.png?f=community)
/u/375177/crop5d2e09d4af15a_cropped.png?f=community)
/u/257022/crop629738e7a7bae_cropped.png?f=community)
/u/101649/pin.png?f=community)
:strip_icc():strip_exif()/u/136442/crop6198f3130240d.jpg?f=community)
:strip_exif()/u/33201/yoshi_ie_ff_small.gif?f=community)
:strip_icc():strip_exif()/u/112202/lighthouse.jpg?f=community)
/u/96951/crop5db75377e35bf_cropped.png?f=community)
:strip_exif()/u/347735/crop58f65ba8bbb3d_cropped.gif?f=community)