開港当初の横浜には船舶が着くことのできる岸壁がなく、本格的な波止場を建設することが国家的な重要課題となっていました。明治政府による第一期築港工事として、1896年（明治29年）に鉄さん橋（大さん橋の前身）が完成し、外国貿易の急速な発展に伴う取り扱い貨物の急増に対応するため、第二期工事として1899年（明治32年）、東洋初の接岸式ふ頭として新港ふ頭の建設が始まりました。その一環で保税倉庫(※1)として現在の横浜赤レンガ倉庫（当時は横浜税関新港埠頭倉庫と呼ばれていました）がつくられました。新港ふ頭は、上屋(※2)、倉庫、クレーン、鉄道等を備えた日本で最初の近代的な港湾施設です。
2号倉庫は1907年（明治40年）に着工、1911年（明治44年）に竣工、設計者は大蔵省臨時建築部を率いていた妻木頼黄 (つまきよりなか) でした。
※1「保税倉庫」とは、海外から運び込まれた輸入手続きが済んでいない物資を一時的に保管する施設のことを言います。
※2「上屋」とは船と倉庫との間の貨物の積み降ろしや、一時保管に使用される施設のことを言います。倉庫との違いは壁がなかったり、柱と屋根のみの建物であることです。