برزت فكرة تأسيس حركة الجهاد الإسلامي في فلسطين، في أواخر سبعينيات القرن العشرين، في إطار الحوارات الفكرية التي كانت تجري بين مجموعة من الطلبة الجامعيين الفلسطينيين في مصر، حول مركزية قضية فلسطين بالنسبة إلى الإسلام والحركة الإسلامية، وحول سبل إقامة حركة مسلحة، تستظل بالإسلام، في نضالها من أجل تحرير فلسطين من الاحتلال الصهيوني. وكان من أبرز هؤلاء الطلبة فتحي الشقاقي، الطالب في كلية الطب البشري في جامعة الزقازيق، الذي كان، قبل التحاقه بالجامعة، عضواً في جماعة الإخوان المسلمين في قطاع غزة.
ويُعتقد أن سنة 1980 شهدت تشكيل النواة التي انبثقت عنها حركة الجهاد الإسلامي في فلسطين، التي توقف فتحي الشقاقي عند حيثيات تأسيسها بقوله:
"هي بدأت كحوار فكري بين مجموعة من الشباب الفلسطيني من المتدينين والمثقفين أثناء فترة دراستهم في مصر في النصف الثاني من السبعينيات، جزء منهم كان ينتمي إلى 'لإخوان'، ولكن ليس غالبيتهم. وهذا الحوار الفكري خاض في القضايا المنهجية والفكرية والسياسية، وتحوّل إلى مناخ سياسي من خلاله انبثقت في داخل مصر، أثناء دراستنا، النواة الأولى التي أطلقت بعد ذلك حركة الجهاد...وعملنا على إنشاء حالة من الاستقطاب حول منهجية فكرية إسلامية جديدة، تغييرية وتنويرية، ومقاتلة في الوقت نفسه". ويضيف: " كنا نرى وطنيين بلا إسلام، وإسلاميين بلا فلسطين. وجاءت حركة الجهاد الإسلامي من خلال وعينا للإسلام والقرآن والتاريخ والواقع، لتكون حلاً لهذه المشكلة".
وقد تأثر مؤسسو حركة الجهاد الإسلامي بنهج الثورة الإسلامية في إيران كما برز ذلك بصورة واضحة في الكتاب الذي ألفه فتحي الشقاقي بعنوان: "الخميني.. الحل الإسلامي والبديل"، وعارضوا أفكار التيار الإسلامي التقليدي الذي كان يرى أن تحرير فلسطين يتم بعد إقامة الدولة الإسلامية، وحمّلوا هذا التيار وأفكاره مسؤولية ما أصاب شباب الحركة الإسلامية من تقاعس في النضال من أجل تحرير فلسطين، فساهموا بذلك في نقل الإسلام السياسي في المناطق الفلسطينية المحتلة، الذي كانت تمثّله جماعة الإخوان المسلمين، إلى مواقع "الإسلام الجهادي".
وكان فتحي الشقاقي قد عاد، بعد تخرجه طبيباً، إلى فلسطين في مطلع تشرين الثاني/ نوفمبر 1981، ليلتحق برفاقه الذين سبقوه وبدأوا في بناء تنظيم الحركة على الأرض الفلسطينية، وخصوصاً في قطاع غزة. وعمل فتحي الشقاقي طبيباً لمدة سنتين في مشفى أوغستا فيكتوريا (المُطّلع) بالقدس، وصار يقود حركة الجهاد الإسلامي، التي بدأت مسيرتها في المساجد والجامعات، على المستويين السياسي والإعلامي، ثم شرعت في التحضير للعمل المسلح الذي أطلقته خلاياها السرية في سنة 1984. وقد اعتُقل الشقاقي على يد سلطات الاحتلال الإسرائيلي سنة 1983 لمدة 11 شهراً، وبعد الإفراج عنه، استقر في قطاع غزة، وصار يعمل طبيباً للأطفال. وأعيد اعتقاله مرة أُخرى سنة 1986، وحُكم عليه بالسجن الفعلي لمدة 4 سنوات و5 سنوات مع وقف التنفيذ، بتهمة ارتباطه بنشاطات عسكرية والتحريض ضد الاحتلال الإسرائيلي ونقل أسلحة إلى قطاع غزة. وقبل انقضاء فترة سجنه، قامت السلطات العسكرية الإسرائيلية بإبعاده من السجن مباشرة إلى خارج فلسطين بتاريخ 1 أغسطس/ آب 1988 بعد اندلاع الانتفاضة الفلسطينية، واتهامه بدور رئيسي في تنظيمها. فلجأ إلى بيروت، ومنها انتقل إلى دمشق التي أصبحت مركز قيادته.
وفي لائحتها الداخلية، عرّفت حركة الجهاد الإسلامي في فلسطين نفسها بأنها: "حركة إسلامية جماهيرية مجاهدة مستقلة، الإسلام منطلقها، والعمل الجماهيري الثوري والجهاد المسلح أسلوبها، وتحرير فلسطين من الاحتلال الصهيوني هدفها". وأكدت الحركة أن القضية الفلسطينية هي "أهم قضايا الوطن الإسلامي في هذه المرحلة من تاريخه"، وأن الجهاد في سبيلها هو المدخل لتحقيق أهداف الحركة الإسلامية الأُخرى. وتنبع خصوصية القضية الفلسطينية ومركزيتها، في نظرها، من الدور الذي تقوم به إسرائيل في "تكريس واقع التجزئة القائم على أرض الوطن الإسلامي"، وفي "استمرار عملية النهب لثروات [هذا] الوطن"، باعتبارها "حارسة لمصالح الاستعمار والاستكبار العالمي بقيادة الولايات المتحدة". وهذا الدور هو الذي يجعل إسرائيل تشكّل "خطراً حقيقياً على كل أبناء الأمة الإسلامية" وعلى "كل المستضعفين في العالم". ورأت الحركة في الجماهير الإسلامية والعربية "العمق الحقيقي لشعبنا في جهاده ضد الكيان الصهيوني"، معتبرة أن معركة تحرير فلسطين "هي معركة الأمة الإسلامية بأسرها، ويجب أن تسهم فيها بكامل إمكاناتها وطاقاتها المادية والمعنوية. والشعب الفلسطيني والمجاهدون على طريق فلسطين هم طليعة الأمة في معركة التحرير، وعليهم يقع العبء الأكبر في الإبقاء على الصراع مستمراً حتى تنهض الأمة كلها للقيام بدورها التاريخي في خوض المعركة الشاملة والفاصلة على أرض فلسطين".
وتشير بعض المصادر إلى أن حركة الجهاد الإسلامي استطاعت أن تستقطب، خصوصاً في السجون الإسرائيلية، عدداً من كوادر حركة "فتح" وفصائل منظمة التحرير الفلسطينية الأُخرى. وعقب اندلاع الانتفاضة الأولى في أواخر سنة 1987، وسّعت الحركة حضورها في قطاع غزة والضفة الغربية، كما نجحت في التغلغل في مخيمات اللاجئين الفلسطينيين في سورية ولبنان، وأخذ نشاطها العسكري طابعاً أكثر تنظيماً، وشكّلت جناحها العسكري باسم "سرايا القدس"، الذي نفّذ عشرات العمليات العسكرية التي تنوعت ما بين إطلاق النار والهجوم بالقنابل ونصب الكمائن وتفجير العبوات، فضلاً عن العمليات الاستشهادية. وقدمت حركة الجهاد الإسلامي المئات من الشهداء والمعتقلين والمبعدين، ونجحت إسرائيل في تصفية عدد من قياداتها وكوادرها السياسية والعسكرية، مثل هاني عابد الذي اغتيل في قطاع غزة في 2 تشرين الثاني/ نوفمبر 1994 ومحمود الخواجا، أحد مؤسسي الجهاز العسكري للحركة في قطاع غزة، الذي اغتيل في 22 حزيران/ يونيو 1995. بعد ذلك، في 26 تشرين الأول/ أكتوبر 1995، اغتالت وحدة من جهاز "الموساد" الإسرائيلي مؤسس الحركة فتحي الشقاقي في جزيرة مالطا، عندما كان عائداً من زيارة إلى ليبيا، ونُقل جثمانه إلى دمشق، حيث شيعه في مخيم اليرموك عشرات الآلاف من الفلسطينيين.
وبعد اندلاع الانتفاضة الثانية في أواخر أيلول/ سبتمبر 2000، صعّدت حركة الجهاد الإسلامي عملياتها العسكرية، الأمر الذي دفع قوات الاحتلال الإسرائيلي إلى استهداف قادة جناحها العسكري، ونجحت في اغتيال عدد منهم مثل أنور حمران الذي اغتيل في نابلس في 11 كانون الأول/ ديسمبر 2000، ومحمد عطوة عبد العال الذي اغتيل في رفح في 2 نيسان/ أبريل 2001، وإياد حردان الذي اغتيل في جنين في 5 نيسان/ أبريل 2001، وخالد الدحدوح الذي اغتيل في مدينة غزة في 1 آذار/ مارس 2006، وحسام جرادات الذي اغتيل في مخيم جنين في 23 آب/ أغسطس 2006.
وعلى صعيد مواقفها السياسية، عارضت حركة الجهاد الإسلامي "مبادرة السلام" التي تبنتها منظمة التحرير الفلسطينية، في أثناء انعقاد دورة المجلس الوطني الفلسطيني التاسعة عشرة في مدينة الجزائر في منتصف تشرين الثاني/ نوفمبر 1988، ورأت في قبول منظمة التحرير قرار مجلس الأمن رقم 242 تنازلاً "عن جزء هام من فلسطين"، ينقل المعركة "من معركة مع العدو إلى معركة على الساحة الفلسطينية"، وأن النهج الذي تنتهجه قيادة منظمة التحرير هو بمثابة "انتحار سياسي". كما عارضت حركة الجهاد الإسلامي مؤتمر مدريد للسلام في خريف سنة 1991 والمشاركة الفلسطينية فيه، وساهمت في تأسيس تحالف القوى الفلسطينية العشر المناهضة للتسوية السياسية في أيلول/ سبتمبر 1992، ثم رفضت بحزم اتفاقيات أوسلو (أيلول 1993)، وقاطعت الانتخابات التشريعية والرئاسية التي دعت إليها السلطة الوطنية الفلسطينية (كانون الثاني/ يناير 1996)، وامتنعت عن المشاركة في أجهزة هذه السلطة، مع استمرارها في الدعوة إلى وحدة القوى الإسلامية والوطنية في النضال ضد الاحتلال الصهيوني.
وتمثّل حركة الجهاد الإسلامي حالياً التنظيم الثاني في قطاع غزة، بعد حركة "حماس"، من حيث النفوذ الشعبي والقوة العسكرية؛ وعلى الرغم من كون حركة الجهاد تتفق مع حركة "حماس" في كثير من الأهداف والمبادئ، ووقّعت معها في سنة 1992 "ميثاق الإخوة والتعاون"، فإن التنافس على النفوذ الذي يدور بينهما لا يخلو من احتكاكات في بعض الأحيان.
وتقيم حركة الجهاد الإسلامي علاقات متميزة مع الجمهورية الإسلامية في إيران، وترى في هذه الثورة مثالاً يحتذى، كما تقيم علاقات قوية مع حزب الله اللبناني ومع سورية. وهي، بعد أن كانت تركّز في عملياتها العسكرية على استهداف العسكريين الإسرائيليين ومواقعهم، راحت تلجأ، بعد انسحاب إسرائيل من قطاع غزة، إلى استخدام الصواريخ في قصف البلدات والمدن الإسرائيلية الواقعة في "غلاف غزة"، رداً على هجمات واعتداءات الجيش الإسرائيلي. وتعلن الحركة أنها تمتلك آلاف الصواريخ، وأنها قادرة على استهداف المدن في العمق الإسرائيلي.
بعد اغتيال فتحي الشقاقي، خلفه في قيادة الحركة رمضان عبد الله شلح، الذي بقي على رأس قيادتها حتى أواخر أيلول/ سبتمبر 2018، عندما جرى انتخاب زياد نخالة خلفاً له.
وعقب انتخاب زياد نخالة أميناً عاماً، أكد داوود شهاب الناطق باسم الحركة، في مؤتمر صحافي، أن حركة الجهاد الإسلامي "مستمرة بالمواقف نفسها وبسعيها لتحقيق الأهداف التي انطلقت من أجلها"، وأن المقاومة "ستبقى الأولوية الأولى، وسلاحها أمانة لا تساوم عليه الجهاد الإسلامي ولا تفرط به".