1980-аад оны сүүл, 1990 оны эхээр програмистууд чухамдаа л өөрсдийн төгс програмчлал хэлтэй болсон гэж бодож байлаа. Энэ бол C++. Хүчирхэг C хэлний үндсэн зарчмаас гадна объект хандалт ухагдахуун C++ тусгаж чадсан байлаа. Гэвч 1990 оны интернэтийн хүчтэй давалгаа болох WWW (World Wide Web) гарч ирснээр C++ энэхүү технологит нийцэхээ больсон юм. Ингээд програм хангамж хөгжүүлэгчид дахин "төгс” програмчлалын хэлний эрэлд гарав.

Java хэл бол хэдийгээр C++-ийн дараагаар түүний үндсэн шинж чанаруудыг багтаан хөгжүүлэгдсэн боловч жинхэнэ програмчлалын хэл болж чадсан юм. Зарим мэргэжилтэнгүүд "Java хэл нь Интернэтэд ажиллах боломжтой С++” гэж хэлдэг. Үнэн хэрэгтээ Java нь платформ үл хамаарах гэсэн үндсэн философитой бие даасан програмчлалын хэл юм.

1991 онд Sun Microsystems Inc-ийн Жеймс Гослин (Гослин бол C++ хэлийг зохиож байсан нэгэн), Патрик Найтон, Крис Варт, Эд Франк, Майк Шеридан нар Java-гийн анхны санааг гаргаж эхэлсэн юм. 18 сарын хөгжүүлэлтийн дараа анхны хувилбараа гаргаж, програмчлалын хэлээ "Оаk” гэж нэрлэв. Гослин өөрийн цонхоор байнга хардаг модны нэр "Oak”-аар шинэ хэлээ нэрлэсэн боловч ийм нэртэй өөр програмчлалын хэл байдгийг мэдснийхээ дараа хожим 1995 онд "Java” гэж нэрлэсэн гэдэг (Java-гийн хөгжүүлэгчид ажлын ойролцоох кафед байнга суудаг байсан бөгөөд кафенынхан "Java” гэдэг нэрийг тэдэнд санал болгосон түүхтэй).

Java-г анх олон үйлдлийн систем, платформ үл хамаарах хэл болгох үүднээс хөгжүүлсэн юм. Учир нь тухайн үед ганц компьютер гэлтгүй, гар утас, жижиг зөөврийн компьютер PDA зэрэг олон төхөөрөмжүүд зах зээлд гарч ирж байсан аж. Sun Microsystems Inc-ийнхан энэ чиг хандлагыг урьдчилан харж, Java-г хөгжүүлэх Green төслийг эхлүүлжээ. Харамсалтай нь энэ төсөлд өөр компани ялж, Green төсөл нурах аюулд хүрсэн юм. Аз болоход 1990-ээд онд Web асар хурдацтай хөгжиж эхэлсэн бөгөөд динамик вэб хийхэд Java-г ашиглах боломжтойг багийнхан олж харав. Green төслийн зорилго ч үйлдлийн систем, платформ үл хамаарах байсан учир интернэтэд ажиллах боломжтой програмчлалын хэл бүтээхэд илүү дөхөм болжээ. Ингэж дөрвөн жилийн нөр их хөдөлмөрийн үр дүнд 1995 онд Java-г албан ёсоор олон нийтэд зарласан түүхтэй.