Футьбольный клуб «Бейтар» был основан в 1936 году Давидом Хореном; в иврите название клуба представляет собой аббревиатуру, расшифровывающуюся как «Союз Иосифа Трумпельдора». Многие игроки команды относились к крайне-националистическим подпольным организациям «Эцель» и «Лехи». Из-за ареста одного из лидеров отрядов клуб был разсформирован и создан вновь лишь семь лет спустя. В 1954 году команда впервые поднялась в высший дивизион чемпионата Израиля, но из-за слабой игры в том же сезоне уже вернулась обратно во второй дивизион, в котором пробыла до сдвоенного сезона 1966/68.

В 1970-е годы с приходом Ури Мальмильяна из юношей в основной состав, команда начала завоёвывать себе статус топ-клуба в израильском футболе. С помощью выросших в клубе игроков, таких, как вратарь Йосси Мизрахи, защитники Йосси Хахам и Ицхак Жано и тройка полузащитников Виктор Леви, Дани Нойман и Ури Мальмильян, прозванная тогда «Шоколад-Мента-Мастик», как существовавший в то время популярный женский поп-коллектив, команде удалось в первый раз за всё время её существования стать обладателем Кубка Израиля в 1976 году. В том же году клуб изменил свои цвета с бело-голубого на чёрно-жёлтый. В 1979 году под руководством тренера Шимона Шенара команда завоёвывает Кубок Израиля во второй раз. В те же 1970-е годы иерусалимский «Бейтар» становится ведущей командой города, воспользовавшись спадом другого клуба — «Хапоэля».

В 1980-е годы клуб вновь опускается во второй дивизион, но возвращается уже через год. С 1984 по 1986 год два сезона подряд команда выигрывала Кубок Израиля, вначале под руководством тренера Давида Швайцера, а затем Дрора Каштана. В сезоне 86/87 впервые в истории «Бейтар» выиграл чемпионат Израиля. Среди игроков той команды были Йосси Мизрахи, Эли Охана, Ури Мальмильян, Ханан Азулаи, Яаков Шварц, Сами Малька, Ави Коэн и Шломо Ширази. По окончании сезона Эли Охана покинул команду, перебравшись в бельгийский «Мехелен».

В сезоне 1990/91 клуб снова вылетел во второй дивизион. Клуб страдал от нехватки средств и базировался на молодых игроках из своей школы. В том же году в «Бейтар» вернулся его бывший председатель Моше Дадаш, который первым делом, найдя спонсора в лице известного режиссёра Йорама Глобуса, вернул обратно из «Мехелена» Эли Охану, который, несмотря на успешную карьеру в Европе, решил помочь родному клубу. По окончании сезона «Бейтар» возвратился в Лигат а-Аль. На следующий год команда во второй раз выиграла чемпионат страны с тренером Дрором Каштаном. В сезонах 96/97 и 1997/98 годов «Бейтар» два сезона подряд побеждает в чемпионате Израиля.

В середине первого десятилетия двадцать первого века клуб приобрёл израильский миллиардер, выходец из СССР Аркадий Гайдамак. В клуб были вложены значительные суммы денег, коренным образом обновлён состав, сменены один за другим несколько тренеров. В результате клуб убедительно выиграл два чемпионата Израиля (2006/07 и 2007/08) и Кубок Израиля в сезоне 2007/08, однако на международной арене ему не удалось добиться существенных успехов. В дальнейшем финансирование клуба Гайдамаком было прекращено, однако команда сумела закончить сезон 2008/09 на третьем месте и второй раз подряд завоевать Кубок Израиля. В 2009 году контроль над командой перешёл к израильско-американскому предпринимателю бразильского происхождения Гуме Агуяру.