Dojście Hitlera do władzy i jego rządy szybko dotknęły społeczność mówiącą językiem polskim. Za wszelką cenę władza starała się zgermanizować tą ludność. W tym celu organizowano liczne imprezy kulturalne, po wsiach jeździły teatrzyki kukiełkowe, orkiestry, kina objazdowe. Wszystkie te zabiegi miały za zadanie szerzenie narodowosocjalistycznej propagandy. Władze polskie bardzo szybko zauważyły potrzebę znalezienia pewnej drogi porozumienia z ludnością mazurską. Już w sierpniu 1922 roku w Ełku została otwarta agencją konsularną. Kierownictwo nad nią objął Filip Zawada. Pojawienie się owej jednostki natychmiast wywołało liczne protesty ze strony niemieckich organizacji nacjonalistycznych. W Polsce liczono, że ów konsulat będzie w stanie zorganizować jakiś ruch propolski wśród ludności mówiącej po polsku. Praktyka wyglądała jednak inaczej. Pomimo iż w powiatach mazurskich duża cześć ludności mówiła po polsku to jednak posługiwanie tym językiem nie szło w parze z poziomem świadomości narodowej. Efektem tego było to, iż nie udało się na terenach działalności konsulatu ełckiego utworzyć żadnej polskiej organizacji. Walkę o ową ludność podjęli także Niemcy. Szybko dostrzegli przywiązanie ludności do dawnej tradycji i obyczajów. Władze niemieckie zalecały zachowanie miejscowego folkloru. W celu zebrania większych ilości informacji zalecono nauczycielom i partyjnym kierownikom zbieranie pieśni, spisywanie obyczajów, tańców itp. a także zbadanie zasięgu mazurskiego i warmińskiego folkloru. Ruch polski najlepiej zorganizowany był w południowych rejonach Warmii. Doszło do tego, że w 1933 roku została powołana specjalna organizacja o nazwie Związek Niemieckiego Wschodu, której celem było śledzenie poczynań polskich organizacji. W ten sposób poprzez gęstą sieć agentów rozmieszczonych w każdej mazurskiej czy warmińskiej miejscowości władze niemieckie były dokładnie poinformowane o każdej polskiej działalności.W 1936 roku wprowadzono na terenach niemieckich obowiązek przynależności młodzieży do organizacji hitlerowskich. Niby głośno mówiono o tym iż młodzież polska nie ma obowiązku przynależności do owych organizacji ale rzeczywistość okazała się inna. Młodzież nienależąca do Hitlerjugend miała utrudniony dostęp do nauki a co za tym idzie trudniejszy start życiowy. Władze hitlerowskie uderzyły także w polską prasę, nasiliły represje policyjne i ograniczyły swobody obywatelskie.

Od roku 1933 stale pogarszała się sytuacja polskich działaczy w Prusach Wschodnich. Do więzienia trafił Gustaw Leyding, aresztowano Jana Boenigka. Mnożyły się pogróżki pod adresem chłopów przyznających się do polskich korzeni i posyłających dzieci do polskich szkół. Z czasem pogróżki przeistoczyły się w groźby. Grożono rodzicom zwolnieniem z pracy, jeśli nie zaprzestaną posyłania swych dzieci do polskich szkół. Działania te zaczęły przynosić zamierzony skutek. Wielu Polaków przenosiło swoje dzieci z polskich szkół do niemieckich. W polskich szkołach było coraz mniej dzieci, czego efektem było zamknięcie szkoły w Gietrzwałdzie. Wielu Polakow wypisało się ze Związku Polaków w Niemczech. Ruch polski na Mazurach praktycznie zamarł. Na trzy miesiące zostało zawieszone wydawanie Mazura. Na krótki okres sytuacja uległa polepszeniu po podpisaniu pomiędzy Polską a Niemcami układu o nieagresji. 10 kwietnia w Olsztynie otworzono szkołę polską, zwiększyła się również ilość dzieci w szkołach w Brąswałdzie, Skajbotach i Stanclewie. Także różnego rodzaju młodzieżowe organizacje sportowe wznowiły swą działalność. Rozpoczęto budowę licznych boisk wiejskich, planowano zbudować ośrodek sportów wodnych nad jeziorem Ukiel, we wrześniu 1934 roku w Pluskach odbył się turniej siatkówki drużyn polskich. Jednak wraz z upływem czasu rozwój sportu został zahamowany. Powodów było kilka: brak sprzętu i kontaktu z krajem to tylko te najbardziej podstawowe. Lepiej wiodło się w dziedzinie czytelnictwa. W październiku w Olsztynie otworzony został Oddział Centralnej Biblioteki Polskiej w Niemczech na Prusy Wschodnie. Ogólnie zdołano utworzyć 37 bibliotek gromadzących około 3.000 tomów. Wraz z otwieraniem kolejnych bibliotek prowadzona była akcja zakładania świetlic. W 1935 roku pracowało na Warmii 14 świetlic. Świetlice podobnie jak biblioteki były bardzo ważnym narzędziem pozyskiwania młodzieży polskiej. Dość szybko udało im się zdobyć zaufanie ludzi co zaowocowało zaangażowaniem licznej grupki młodzieży do działalności kulturalnej. Niemcy nie potrafili w żaden sposób przeciwstawić się takiej formie działalności. Dla nich o wiele bardziej niebezpieczne było odrodzenie polskiego harcerstwa, o czym raportowali agenci BDO. Polski ruch harcerski bardzo szybko się rozrastał a na jego czele stanął z czasem Ryszard Knosała.

Od roku 1936 znów w sposób znaczny pogorszyły się warunki działania ruchu polskiego. Władze hitlerowskie ponownie nasiliły szykany. Główne uderzenie ponownie zostało skierowane w polskie szkoły. Rodzice posyłający swoje dzieci do polskich szkół pozbawieni zostali dodatków dla rodzin wielodzietnych. Nasiliła się również walka z czytelnictwem prasy i książki polskiej. Drastycznie zmniejszyła się liczba prenumerujących Gazetę Olsztyńską. Wydano zakaz rozpowszechniania Krzyżaków Henryka Sienkiewicza. W tych najtrudniejszych dla ludności polskiej czasach zebrali się jej w Berlinie przedstawiciele na kongresie Polaków w Niemczech. Ustanowiony tam został swojego rodzaju drogowskaz dla ludności polskiej tzw. Pięć prawd Polaków: