アイスランド沿岸の航行は依然困難だったにもかかわらず、点検を終えた戦艦ビスマルクと重巡洋艦プリンツ・オイゲンは1941年5月、前述の作戦に従って大西洋へと進出した。ビスマルクはまず巡洋戦艦フッドを撃沈。ドイツの新鋭戦艦の威力を示したこの一戦の後、ビスマルクは再び敵と遭遇してこれを退けたが、翌日敵航空機が同艦を補足。北大西洋全域から終結したイギリスの戦艦と航空機隊を相手取った苦戦の末、ビスマルクは沈没した。西フランスから出撃したドイツの航空機は有効な支援ができなかったが、それは戦場が遠く離れていたためだった。プリンツ・オイゲンは敵艦隊を振り切り、無事ブレストに帰投した。
正攻法によらず危険を伴う作戦を採り続けてきた海軍上層部は損害を覚悟していたものの、ビスマルクの喪失は大きな痛手だった。この海戦では艦船のレーダーが戦闘の趨勢を決した最初の例であったらしく、この後、敵のレーダー技術がこちらを上回っていることがだんだんと明らかになっていく。敵のレーダー技術の優位は、ドイツの艦隊と仮装巡洋艦隊が遠方の海で敗北を喫した一因になった。一方でこの戦闘におけるイギリス艦隊の敏感な反応は、敵方の艦隊に休む間を与えないようにするという戦略目的が達成されていることの現れであり、これが判明したことは敵方への直接的な被害とともにこの戦闘の成果といってもよい。この段階でイギリスの船団は単一または複数の戦艦が護衛についていた。
上層部はこれ以降も残った艦艇を大西洋へ出撃させるつもりでいたが、ビスケー湾への空襲が激化したことでそれが危ぶまれるようになる。Uボートは強固な修理ドックに守られていたが商船はそうもいかず、最大規模の対空防備を有したブレストの商船までが空襲で被害を受けるようになり、大西洋での作戦継続に支障が出た。
このころ、仮装巡洋艦の活躍が著しかった。南大西洋、インド洋、時には太平洋にまで出撃し、補給などは特務艦が担当した。それらの特務艦はもっぱらドイツ本土、後には日本からも出撃した。仮装巡洋艦を動かした背景にはヨーロッパと北大西洋への敵戦力の集中を防ぐという戦略的な狙いがあり、最終的に仮装巡洋艦隊は敵船を多く撃沈し、多数の敵戦力を遠方の海へ引きつけることに成功した。それら仮装巡洋艦隊への命令は多面的かつ柔軟なもので、特筆すべき活躍としては南アフリカやオーストラリア海域への機雷敷設、南大西洋における敵補助巡洋艦隊との3度に渡る勝利、北極海での敵捕鯨船団の拿捕、敵軽巡洋艦シドニーの撃沈、また数十万トン分の敵商船を拿捕し、多くの船と積み荷をドイツ支配下の港まで運び込んだことが挙げられる。大西洋とインド洋におけるポケット戦艦アドミラル・シェーアの活躍もまた仮装巡洋艦隊の助けとなった。
フランスを占領した後の1940年6月にはイタリアが参戦。これにより戦争指導者の目は地中海にも向けられることとなり、ドイツの戦略計画に北アフリカが組み込まれる。ドイツやイギリスと比べれば見劣りするイタリアの戦力を過大評価していたきらいはあったが、それでもイタリアの参戦が追い風となり、お流れとなったイギリス本土侵攻に代わって敵に決定的打撃を与える好機到来とみなされた。それからまもなくフランスの港湾が機能し始めたが空襲の脅威が大きく、さらに南のフランス領モロッコやダカールに近いあたりで大西洋に面した港湾の活用が求められた。地中海を掌握するという戦略目的は、成功したなら近東を征服し、紅海を経由して日本への海上交通路が開かれるとまで期待され、惜しい所までこぎつけはしたが、種々の理由が重なって達成されることはなかった。ジブラルタル占領計画はスペインを参戦させる政治的努力が実らず断念。北アフリカにあるフランス領の支配・活用はフランスの協力を取り付けられず失敗。Uボートによる戦艦バーラムの撃沈、そしてアレクサンドリア港においてイタリアの小型潜航艇が戦艦2隻を損傷させたことで地中海の情勢がにわかに好転した時にも、ドイツが再三提案したにもかかわらず、イタリアは海軍を十分に活用しなかった。1941年から1942年にかけての冬、ドイツとイタリアの空軍はマルタ島に攻撃をかけて追い詰めたものの、結局占領にはいたらなかった。これはイタリア側の戦力不足に加え、ドイツ側も対ソ連と北アフリカでの戦闘を鑑みて支援ができなかったことに起因する。また北アフリカでの快進撃にもかかわらずロンメル元帥は戦略目標を達成することができなかったが、これは地上の補給支援と物資の不足、イタリア軍の統率の拙さ、および増援の不足が原因である。イタリアの事情を見れば、イタリア海軍は訓練が不足し、装備の性能も低く、さらに士気の欠如も一定程度問題であった。もちろん、イタリア海軍や商船団が勇敢に戦った例がないわけではない。一方ドイツの方を見れば、北アフリカ戦線での決定的な敗因は戦力の不足だった。ドイツは当時ソ連との戦闘に大規模な戦力を割いており、地中海での海上および陸上において大規模な作戦を展開できなかったのだ。地中海の戦闘でドイツ海軍の果たした役割はごく小さなもので、Uボートによる支援を除けば小艦艇や急造の補助艦艇を投入したにとどまる。そのため地中海での作戦指揮は大部分がイタリアに委ねられたが、戦況を好転させるには至らなかった。1月末、ヒトラーがソ連との戦争は不可避であり、戦争計画の策定を行わねばならぬという自身の意見を初めて海軍最高指揮官に伝えた。ソ連は独ソ不可侵条約締結当時こそ律儀に条約を守っていたが間もなく手のひらを返し、ドイツへの小麦と石油の供給を減らしてきたり、堂々と条約に違反したり(バルト三国の併合、ルーマニアの一件※2)と、勝手な振る舞いを見せるようになる。加えて当時ソ連軍が戦時体制に移行した――この状況での矛先はドイツ以外にない――こと、ソ連陸軍内で反ドイツの猛烈なプロパガンダが行われたこと、さらに後になるとソ連軍がソ連西端の国境に展開しているという情報が入ってきた。
※2ルーマニア領のベッサラビアとブコビナ北部をソ連が併合した一件