360°-Überwachung «made in Turkey» – jedes Gesicht in Sekunden identifiziert

Die Firma Ekin Technology bietet für die Polizei intelligente Technologie zur Gesichts­erkennung an und will in der Schweiz Fuss fassen. Derzeit werden ihre Produkte vom Bund geprüft. Sie sind ein einziger Überwachungs-Albtraum.

Eine Recherche von Adrienne Fichter (Text) und Daniel Stolle (Illustration), 29.10.2019

Unabhängiger Journalismus kostet. Die Republik ist werbefrei und wird finanziert von ihren Leserinnen. Trotzdem können Sie diesen Beitrag lesen.

Wenn Sie weiterhin unabhängigen Journalismus wie diesen lesen wollen, handeln Sie jetzt: Kommen Sie an Bord!

Die aufwendig produzierten Filmchen könnten problemlos an einem Film­festival gezeigt werden. Zumindest enthalten die Werbevideos der Firma Ekin Technology einige vielversprechende Blockbuster-Zutaten:

  • verdächtig aussehender Gegenstand auf der Strasse;

  • Überwachungs­zentrale mit hoch­auflösenden Bildschirmen;

  • rasender Polizei­wagen mit viel eingebauter Technologie;

  • viel Tempo, viel Beat;

  • wichtig aussehende Agenten;

  • gestochen scharfe Aufnahmen von Passanten;

  • Identifikation mit der passenden ID-Nummer in Echtzeit.

Doch worum geht es in diesen Clips von Ekin Technology tatsächlich?

Die türkische Firma bietet mobile 360°-Überwachung an. Hardware und Software. Beliebt und viel beworben ist der Ekin Patrol Car: Im Lichtbalken auf dem Dach des Polizeiwagens versteckt befinden sich Kameras, Prozessor und Scanner. Die dahinter­liegende Technik kann nicht nur Verkehrs­sünder auf­spüren, sondern auch unbescholtene Passanten in Sekunden identifizieren.

Eine Leistung, die man bisher nur aus den Promo-Filmen für das chinesische Scoring-System oder Amazons Rekognition-Software kennt.

Verkauft werden die Produkte in den USA, in Abu Dhabi, in Aserbaidschan – und vielleicht bald auch in der Schweiz.

Die Schweiz taucht als Kunden­referenz der Firma immer wieder auf. Warum? Welches Schweizer Polizeikorps arbeitet mit Ekin Technology zusammen? Einer Firma, die sich auf ihrer Website rühmt, «Day & Night First Class Surveillance» anzubieten, und von sich behauptet, jedes «Gesicht in wenigen Sekunden» zu erkennen?

Und sind solche smarten Polizei­wagen überhaupt legal in der Schweiz?

Die Suche nach Antworten auf diese Fragen fördert eine Geschichte zutage, die an einer Universität in den USA beginnt, zu einem Dorf­polizisten nach Rüschlikon und dann zu einem Fake-Polizeiwagen in der Stadt Zürich führt und vorerst beim Bundesamt für Polizei Fedpol endet.

Die Recherche ist der Auftakt zu einer neuen Serie der Republik: über Technologien, die der Staat für sich entdeckt – Algorithmen und Automatisierungs­programme zur Überwachung von Bürgerinnen, zur Steuerung von Polizei­einsätzen, zur Beurteilung von Straftätern, zur Verteilung von Flüchtlingen und zur Rekrutierung von Lehrlingen.

Zur Serie «Tech-Staat Schweiz»

In den USA werden Kinder via Software einer Schule zugeteilt, in China erhalten Bürger Minus­punkte bei regierungs­kritischen Äusserungen. Der Überwachungs­kapitalismus und die Techno-Diktatur sind auf dem Vormarsch.

Wie sieht die Situation in der Schweiz aus? Auch hier wird der Staat immer mehr digitalisiert. Dabei setzen öffentliche Institutionen auf Automatisierung und algorithmenbasierte Software. Mit welchen Folgen?

Die Republik klärt diese Fragen in einer mehrteiligen Serie. Die Themen reichen von Überwachungs­projekten über Predictive Policing, smarte Justiz und «intelligente» Flüchtlings­verteilung bis zum E-Patienten­dossier und zu Smart City.

Die Spur in die Schweiz

Vor rund einem Monat. Die Carnegie University in Pittsburgh, USA, veröffentlicht eine umfassende Studie über den Einsatz von intelligenten Überwachungs­systemen. Aufgelistet werden darin alle Länder der Welt, die Gesichts­erkennungs­technologien kaufen oder potenziell erwerben werden.

Die Studie machte hellhörig.

Während unsere Nachbar­staaten wie Deutschland und Frankreich für Überwachungs­systeme auf die «üblichen» Bekannten setzen – die US-amerikanischen Tech-Unternehmen Cisco und Palantir sowie den chinesischen Netzausrüster Huawei –, taucht bei der Schweiz ein bisher in der Öffentlichkeit völlig unbekannter Name auf: Ekin Technology.

Ein Unternehmen, das vom Ehepaar Akif und Suzan Ekin 1998 in der Türkei gegründet wurde und von sich selbst behauptet, der Marktleader in Sachen «Safe City Technologies» zu sein. 20 Städte weltweit sollen bereits mit seiner «Alleskönner»-Software Red Eagle arbeiten.

Kleine Warnung: Dies ist ein YouTube-Video. Wenn Sie das Video abspielen, kann YouTube Sie tracken.
Ekin Safe City

Ein Programm, das Gesichter, Nummern­schilder und Geschwindigkeiten gleichzeitig erkennen kann. Das Unternehmen gewann mehrere Preise, ist unter anderem «Design Award Winner for Security and Surveillance Products in 2017–2018». Ekin belieferte 2006 auch die Fifa mit Sicherheits­technologie für die Austragung der Fussball-WM in Deutschland.

Wer in der Schweiz interessiert sich dafür?

Dorfpolizist und Verwaltungsrat

Wer auf der Website der Firma nach Schweizer Referenzen sucht, stösst immer wieder auf denselben Namen: Gerhard Schaub.

Schaub ist Gemeinde­polizist in Rüschlikon. Und Präsident des Zürcher Polizeibeamtenverbands.

In seinem Kundentestimonial für Ekin Technology schwärmt Schaub begeistert von der ganzen Ekin-Produkte­palette: «Ekin is the only supplier in the world who can provide the total package for us policemen in one.» (Ekin ist der weltweit einzige Anbieter, der das Gesamt­paket für uns Polizisten in einem Produkt anbieten kann.)

Gerhard Schaub ist viel mehr als ein Botschafter der Firma, wie Recherchen der Republik zeigen: Schaub ist Verwaltungsrat von Ekin Swiss, dem Schweizer Ableger von Ekin Technology mit einem Büro in Unterengstringen.

Ein Schweizer Polizist als Verwaltungsrat einer türkischen Überwachungs­firma?

Zunächst reagieren weder Schaub noch Ekin-Gründer und CEO Akif Ekin auf Anfragen der Republik.

Die Republik schreibt daher Polizeikorps und weitere Kader­personen von Ekin Technology an, um mehr über die Verbindungen der türkischen Überwachungs­firma und ihres Dorfpolizisten als Verwaltungsrat zu erfahren. Das löst hinter den Kulissen hektisches Treiben aus: Eilsitzungen werden einberufen, E-Mails untereinander weitergeleitet – die ganze Sache ist delikat.

Ein Fake-Polizeiwagen in Zürich

Die Schweiz spielt in allen Publikationen und Referenzen von Ekin immer wieder eine grosse Rolle.

  • Im Fernsehen: zum Beispiel in der Sendung «Campus Doku», einer Produktion des Bayrischen Rundfunks. Im Film sieht man ein fahrendes «intelligentes» Testmodell von Ekin. Schauplatz: Bahnhofbrücke Zürich (im Video ab 20:00 Minuten). Der Polizeiwagen erkennt beim Vorbei­fahren gesuchte Autos. Die Treffer­quoten lägen bei 80 Prozent, sagt Derya Kilic in der Sendung, sie ist bei Ekin Managerin Business Development.

Kleine Warnung: Dies ist ein YouTube-Video. Wenn Sie das Video abspielen, kann YouTube Sie tracken.
Die Welt des Verbrechens - Campus Doku

Weshalb wurden die Aufnahmen vom September 2018 in Zürich gedreht und nicht etwa in Stuttgart, wo Ekin sein Deutschland-Büro unterhält?

Anfrage bei den Journalisten des Bayrischen Rundfunks. Die begehrten Testmodelle wie der Ekin Patrol Car würden sich in der Schweiz befinden, sagen sie. In Unterengstringen biete Ekin zudem einen Showroom mit Monitoren für sein Gesichts­erkennungs­system an. Man habe eine Dreh­bewilligung für die Aufnahmen eingeholt.

Anfrage bei der Stadtpolizei Zürich. Ja, die Stadtpolizei sei über die Aktion informiert gewesen, bestätigt Sprecherin Judith Hödl. «Jedoch wussten wir nicht, dass das angeschriebene Polizeiauto von einer zivilen Person und nicht vorschrifts­gemäss von einer Polizistin oder einem Polizisten gelenkt wurde. Dabei handelt es sich um eine Übertretung.» Man verfolge den Vorfall jedoch nicht weiter, aus Gründen der Verhältnis­mässigkeit.

Testet die Stadtpolizei Ekin-Modelle?

«Nein.»

  • In den sozialen Netzwerken: Am 17. September 2019 postet Ekin Technology auf den Social-Media-Plattformen Twitter, Facebook und Instagram einen identischen Beitrag: «We finalized the third of our smart event series in Switzerland with Ekin Polizei Symposium!»

Was war das für ein Anlass? Und warum ist ausser diesen Social-Media-Beiträgen nichts über dieses ominöse «Ekin-Polizei-Symposium» zu finden?

Die Republik ermittelt den Ausstellungsort und lokalisiert ihn mit Google Street View. Demnach muss das Ekin-Symposium an der Dorfstrasse 57 in Unterengstringen stattgefunden haben, dem Sitz der Ekin Swiss AG. Auf den Postings ist unter anderem CEO Akif Ekin zu sehen.

  • In Fachzeitschriften: Im Polizeimagazin «Tatort» von Oktober 2017 erscheint ein Bericht zu einer Messe über «mobile Verkehrs­sicherheit». Ausstellungsort sind die Zugerland Verkehrs­betriebe. Auch hier wird von den «zukunfts­weisenden Systemen der Firma Ekin mit der Gesichts- und der Kontrollschild­erkennung» geschwärmt. Geschrieben hat den Text: Gerhard Schaub. Auch den Event hat er gleich selbst organisiert – im Namen des Zürcher Polizeibeamtenverbands.

Aus «Passion» und Terrorangst

Nachdem ihn Mitarbeiter und Vorgesetzte in Rüschlikon über die Anfragen der Republik informierten, nimmt Gerhard Schaub endlich den Hörer ab.

Sichtlich verärgert über die Republik-Recherchen.

Schaub redet in einem 35-minütigen Monolog ohne Atempause über drohende Terror­gefahren und seine Vorstellungen einer sicheren Schweiz. Schaub ist überzeugt, die Schweiz wird bald ihren ersten Anschlag erleben.

Nein, als Verwaltungsrat und Botschafter für Ekin Technology erhalte er kein Geld – das sei «seine Passion», sagt Schaub.

Er habe die Unternehmens­gründer an einer Polizei­messe in Deutschland kennen­gelernt und sei vom intelligenten Polizeiwagen – dem Ekin Patrol Car – begeistert gewesen: «Diese Produkte brauchen wir auch in der Schweiz.» Die gemeinsam mit dem Juristen Daniel E. Wyss gegründete Sicherheits­firma TFK Security Systems benannte er 2018 in Ekin Swiss AG um.

Einen Tag nach dem Gespräch schickt Schaub der Republik eine Rede von Günter Krings, die seine Aussagen untermauern soll. Krings ist Staats­sekretär des Bundes­innen­ministeriums in Deutschland. Die Rede stammt vom Europäischen Polizei­kongress 2018. Krings kritisiert darin die mediale Debatte rund um das Thema Gesichts­erkennung: «Wie sollen wir denn zu neuen Ermittlungs­methoden kommen, wenn schon ein Testlauf kritisiert wird? Ich bin dafür, dass wir Neues erproben, Ideen testen und dann überlegen, was wir daraus für Konsequenzen ziehen.»

Die Firma Ekin ist auf europäischen Polizei­kongressen oft präsent. Und wirbt mit dem Slogan «Technologie für die sichere Stadt von morgen». In ihren Blog-Beiträgen listet sie auf, welche hochrangigen Schlüssel­personen aus Justiz und Sicherheit an ihren Anlässen anwesend gewesen seien.

Zum Beispiel Nicoletta della Valle, die Direktorin des Bundesamts für Polizei (Fedpol).

Die unbekannten Tester der Polizei

Was hat die oberste Chefin der Schweizer Polizei mit Ekin zu tun?

Ob della Valle an Polizei­kongressen mit dem Marketing­personal der Firma im Austausch war, beantwortet das Fedpol auf Anfrage der Republik nicht.

Fedpol-Sprecher Florian Näf sagt, man kommentiere «grundsätzlich keine Beziehungen zu externen Herstellern». Aber auch: «Wir verfolgen die Entwicklungen von Technologien wie Face Recognition sehr aufmerksam.»

Wer aber gehört denn nun zu den Schweizer Testkunden von Ekin?

Ein gut informierter Insider berichtet der Republik, dass das Fedpol keine Beziehungen zu Ekin Technology unterhalte.

Laut Gerhard Schaubs Ausstellungsbericht von der Messe bei den Zuger­land Verkehrs­betrieben haben «30 Fachleute von diversen Schweizer Polizei­korps» die vor Ort ausgestellten Polizei­wagen getestet, unter anderem den Ekin Patrol Car. Welche? Dazu gibt die Firma Ekin keine Auskunft.

Umsatz macht das Unternehmen gemäss dem Wirtschaftsdaten­verzeichnis Teledata noch keinen. CEO Akif Ekin und auch Gerhard Schaub bestätigen dies auf Anfrage: «Wir haben lediglich Testgeräte für Demozwecke in der Schweiz.»

Noch kein Umsatz – einer der Gründe übrigens, weshalb Gerhard Schaub in der Vermischung von Verwaltungsrats­mandat und Polizei­tätigkeit kein Problem erkennen kann.

Anders sieht das seine Arbeit­geberin, die Gemeinde Rüschlikon. Sie geht auf Distanz zu Schaubs Neben­tätigkeit – und zieht Konsequenzen in Betracht. Man habe zwar von einem Beratungs­mandat gewusst, jedoch nicht vom Sitz im Verwaltungs­rat, sagt die stellvertretende Gemeinde­schreiberin Cornelia Schild auf Anfrage der Republik.

Der einzige Grund, warum sich der Markteintritt für Ekin-Produkte in der Schweiz verzögert: Es gibt dafür noch keine Zulassung.

Doch das dürfte sich bald ändern.

Wer prüft die Gesichtserkennung?

Die Ekin-Produktepalette liegt aktuell auf dem Tisch von Dr. Fabiano Assi, Bereichsleiter «Eichungen und Prüfungen» der eidgenössischen Konformitätsbewertungsstelle Metas-Cert.

Assi prüft, inwiefern die Ekin-Nummernschild­leser die Anforderungen der Messmittelverordnung und der Strassenverkehrskontrollverordnung erfüllen.

Die eingebauten Sensoren und die Software für die Gesichts­erkennung liegen hingegen nicht im Zuständigkeits­bereich der Zertifizierungs­stelle. «Das Metas», bestätigt Medien­sprecher Jürg Niederhauser auf Anfrage der Republik, «führt bei der Prüfung von Geschwindigkeits­messmitteln keine Prüfung von Gesichts­erkennungen durch.»

Was umgekehrt heisst: Ein neues Produkt zur Geschwindigkeits­messung kann Gesichter in Sekunden identifizieren – und niemand überprüft dies.

Weil niemand zuständig ist, weil die gesetzliche Grundlage dafür fehlt.

Ekin-CEO Akif Ekin selbst hält die Echtzeit­überwachung seines smarten Polizei­vehikels für unproblematisch. «Das Gesicht wird gelesen; gibt es keinen ‹Match› mit einer gesuchten Person, werden die Aufnahmen gleich wieder gelöscht. Es geht hier um Millionstel­sekunden», sagt er am Telefon.

Nicht mal im Ansatz legal

Dieselbe Frage nach dem Eingriff in die Privat­sphäre beantwortete Ekin auch im Beitrag des deutschen Fernsehens. Und ergänzte: «Man muss natürlich die Daten, die erfasst werden, und sofern sie erfasst werden dürfen, sehr gut kontrollieren. Das heisst, man muss dafür sorgen, dass kein Unbefugter darauf Zugriff hat.»

Die Zulassung der Ekin-Produkte in der Schweiz wäre für Daten­schützer und Grundrechts­anwalt Viktor Györffy eine wahr gewordene Dystopie: «Dafür gibt es nicht mal im Ansatz eine gesetzliche Grundlage.»

Das wahllose Herum­filmen und die Speicherung von personen­bezogenen Daten durch die Polizei ist laut Györffy auf keinen Fall zulässig – selbst wenn die Daten gleich wieder gelöscht werden.

Das sieht auch der Zürcher Daten­schützer Bruno Baeriswyl so: «Der Einsatz des beschriebenen Produkts durch die Polizei braucht eine entsprechende Rechts­grundlage in der Polizeigesetz­gebung.»

Somit ist klar: Nach einer Metas-Zertifizierung sind die Ekin-Produkte in der Schweiz theoretisch einsatzfähig – aber immer noch alles andere als legal.

Datenschutz? «Gleich als Nächstes»

Die Werbevideos von Ekin Technology sind der feuchte Traum für Machthaber in autoritär regierten Ländern. Doch Gründer und CEO Akif Ekin, der in Stuttgart Luft- und Raumfahrt studiert hat und fliessend Deutsch spricht, will das Geschäft seiner Firma nach Europa ausrichten, wie die zunehmende Präsenz an hiesigen Polizei- und Sicherheits­messen beweist.

Er gibt sich im Gespräch mit der Republik arglos: «Es gibt Gesetze, und die gilt es einzuhalten.»

Mit der Zulassung von Metas rechnet Ekin im Jahr 2020. «Die Schweiz ist wichtig für uns, weil sie eben genau hinschaut.»

Und Akif Ekin versichert gegenüber der Republik, dass er sich «gleich als Nächstes» mit dem eidgenössischen Daten­schützer an den Tisch setzen will. Bedenken, dass sensible Gesichts­daten aus der Schweiz auf fremden Servern wie etwa solchen in der Türkei landen könnten, räumt er aus. Sein Unter­nehmen habe keinen Zugriff auf Polizeidaten – auch das sei eine der Voraussetzungen für die Zulassung durch die Metas-Zertifizierungs­stelle, betont Ekin.

Was auf uns zukommt

Wie unterscheiden sich die intelligenten Überwachungs­vehikel von Ekin Technology überhaupt von jetziger Technologie?

Flächendeckende Videoüberwachung in Bahnhöfen und Fussball­stadien ist nichts Neues. Gesuchte Personen werden bisher jedoch mit den Augen von Menschen identifiziert.

Bei den Ekin-Produkten passiert die Identifikation mittels künstlicher Intelligenz. Datenpunkte einer Gesichts­aufnahme werden blitzschnell ausgewertet und modelliert – eine bestimmte Person kann in allen Kamera­sequenzen wieder­gefunden werden. Auch ohne zugrunde liegende Foto­datenbank.

Die Kameras der Ekin-Polizeiwagen zeichnen zudem konstant auf. Jedes vorbei­laufende Gesicht wird damit unmittelbar identifiziert.

«Mobile, permanente intelligente Daten­erfassung, wie Ekin Technology diese anbietet, war bisher kein Thema in der Schweiz», sagt ETH-Forscher Jonas Hagmann, der die Sicherheitsdispositive in urbanen Zentren untersucht hat. «Auch wenn an den Sicherheits­messen gerne neuste Technologie angeboten wird, so werden ‹normale› menschliche Lösungen weiterhin hoch gewertet, auch innerhalb der Polizeikräfte.»

Was schon da ist

Das Sicherheits­paradigma gehe jedoch in Richtung Video­überwachung und rasche Gesichts­erkennung, so Hagmann. Mobile Autonummern-Scanner werden bereits eingesetzt in der Schweiz, zum Beispiel von der Stadtpolizei Zürich. Bald soll auch das massenhafte Scannen von Schildern möglich werden. Allerdings müssen dafür erst sämtliche kantonalen Polizei­gesetze angepasst werden, wie ein Bundesgerichtsurteil jüngst festhielt.

Die Basler Polizei hat soeben Tesla-Polizeiwagen in Betrieb genommen, in denen acht Kameras verbaut sind. Mit einem Gesichts­erkennungs­programm sind sie nicht verknüpft – aber sie ermöglichen bereits 360°-Aufnahmen.

Allerdings verzichtet das Basler Polizeidepartement nach eigenen Angaben auf die Aktivierung dieser Kameras. Die Kameras zeichnen lediglich zweisekündige Sequenzen bei Unfällen auf, sollte der Tesla mit einem Fahrzeug kollidieren, wie Sprecher Toprak Yerguz bestätigt. That’s it.

Private sind wohl weniger zurückhaltend – und müssen sich auch nicht zurückhalten. Zum Beispiel in Zürich: Privates Filmen im öffentlichen Raum soll gemäss eines Beschlusses des Stadtrats nicht verboten werden. Egal, ob mit den Aufnahmen Gesichts­erkennungs­software trainiert wird oder nicht. Allerdings werden private Aufnahmen nicht unbedingt als rechts­staatliches Beweismittel zugelassen, wie das Bundesgericht am 10. Oktober entschied.

Die Republik wollte von der Metas-Zertifizierungs­stelle wissen, ob die Behörde auch noch andere Produkte prüfe als bloss diejenigen der Firma Ekin Technology. Der Sprecher antwortete darauf nur indirekt: «Was wir sagen können, ist, dass verschiedene Hersteller von Geschwindigkeits­messmitteln neue Geräte entwickeln, die auf der Kombination von verschiedenen Sensoren und der Auswertung der entsprechenden Daten beruhen.»

Mit anderen Worten: Die neueste Generation von Geschwindigkeits­messgeräten kann alles Mögliche registrieren.

Nicht nur Geschwindigkeits­übertretungen.

Und nicht nur der Ekin Patrol Car.

Kontrollen kaum möglich

Laut der Carnegie-Studie sind es vor allem liberale Demokratien, die zu den Hauptkunden von Technologien zur Gesichts­erkennung gehören. Die westlichen Staaten rüsten für ihre Massnahmen zur Terror­bekämpfung und für Smart-City-Projekte digital auf.

Dabei kaufen europäische Staaten ihre Überwachungs­technik – mangels eigener Angebote – vor allem im Ausland ein. In den USA, in China oder eben vielleicht bald, wie im Fall der Schweiz: in der Türkei.

Akif Ekin lässt laut einem aktuellen Werbevideo seine Software derzeit in einigen europäischen Staaten zertifizieren. Werden die Zertifikate ausgestellt, gäbe es dafür «nur» einen legalen Einsatz­bereich: Geschwindigkeits­messungen im Strassenverkehr.

Gemäss der Europäischen Datenschutzverordnung DSGVO ist die Erhebung biometrischer Daten für die eindeutige Identifizierung verboten.

Der Ruf nach intelligenter Echtzeit-Videoüberwachung wird in den europäischen Innen­ministerien immer lauter geäussert. Am King’s Cross in der Londoner City betreiben stationäre Sicherheits­kameras bereits heute intelligente Gesichts­erkennung.

Wird ein smarter Polizei­wagen wie der Ekin Patrol Car mit einer multi­funktionalen Software wie Red Eagle effektiv nur eingeschränkt eingesetzt?

Fraglich ist, ob die Gesichts­erkennungs­option deaktiviert werden kann. Und wenn ja, ob dann die Polizei tatsächlich darauf verzichtet. Daten­schützer Bruno Baeriswyl hat seine Bedenken: «Die Kontrolle dieser Produkte ist kaum möglich, weil sie viel mehr können, als sie dürfen.»

Es dauert wohl noch eine Weile, bis Ekin die ersten Werbe­filmchen über Verfolgungs­jagden in europäischen Metropolen schalten darf. Bis dahin braust der Ekin Patrol Car weiterhin durch die Strassen von Abu Dhabi.

Und bis dahin wird Ekin-Software zur Gesichtserkennung in Aserbaidschan oder in den Vereinigten Arabischen Emiraten trainiert. In Staaten, in denen individuelle Bürger­rechte und die Privat­sphäre wenig bis nichts zählen.

Und wo Bürgerinnen als Datenfutter herhalten müssen.

Wenn Sie weiterhin unabhängigen Journalismus wie diesen lesen wollen, handeln Sie jetzt: Kommen Sie an Bord!


seit 2018