La leyenda cuenta que el primer habitante y rey de Chios fue Inopion, hijo de Dionisos o Thisseo y Ariadna. Al parecer, Inopion llegó a Chios desde Creta y ahí enseñó el cultivo del vino a los habitantes de la zona.
Respecto al nombre de Chios, todavía no hay acuerdo en su origen. Algunas versiones apuntan que proviene de "Chiona", la hija de Inopion.
La tradición jónica, en cambio, defiende que el origen está relacionado con el nacimiento de Hios, hijo de Neptuno, que coincidió con grandes nevadas en la isla ("hioni", nieve). Una tercera opción, sin embargo, es la que propone el historiador Isidoros, según la cual el nombre de Chios tiene origen fenicio y es la traducción al sirio de mástic.
A lo largo de su historia, la isla también recibió otros nombres que se fueron perdiendo con el tiempo, como Pitioussa (debido a la gran cantidad de pinos), Makris (por su longitud; "makri", largo), Aethalea (por el volcán) y Ofioussa (por la gran cantidad de serpientes; "ofis", serpientes).
Los restos arqueológicos más antiguos de la isla (en Aghio Galas y en Emporios) prueban que los primeros habitantes llegaron a Chios hacia el 6.000 a.C. Por su parte, los restos encontrados en la ciudad de Chios parecen ser anteriores a la primera colonización jónica, que llegó a Chios alrededor del 1.000 a.C. desde el continente y fundó una de las ciudades más importantes de la época.
Los habitantes de Chios no sólo se dedicaban al transporte de mercancías, sino que llegaron a un alto nivel de bienestar económico gracias al comercio de sus propios productos agrícolas e industriales y, por supuesto, del típico mástic cultivado en la isla.
En el siglo XVI, Chios era una ciudad importante, con una población de entre 60.000 y 80.000 habitantes aproximadamente, sin contar los esclavos. Más tarde, cuando Chios pasó a formar parte de la Alianza de Atenas, gozó además de libertad y autonomía.
La Guerra del Peloponeso acabó con un periodo de cinco años de paz y crecimiento. Sin embargo, no tardó en reconstruirse la ciudad y sus habitantes consiguieron grandes riquezas gracias a los progresos en navegación y comercio. Ateneos cuenta que este pueblo era conocido por su cocina y sus cocineros, apreciados en todas partes. Thoukidides, por otra parte, elogió el estado de la ciudad y consideró Chios como la región más rica de Grecia.
Durante la Guerra del Peloponeso, Chios luchó al principio junto a Atenas, aunque tras la derrota de Sicilia desertó y ofreció su apoyo a Esparta, decisión que habría de lamentar más tarde. En poco tiempo, los espartanos se apropiaron de todos sus barcos e impusieron una "dekarhia" (diez tiranos) y un gobernador general, de modo que Chios volvió a conocer los vicios de la tiranía y la violencia. Por supuesto, el decline económico que sufrió Grecia desde finales del siglo VII hasta principios del siglo X afectó también a Chios, aunque logró levantar cabeza después.
El final de la ocupación de la isla por los genoveses en 1346 inició una nueva era que finalizó con la ocupación de los turcos en 1566. El periodo turco duró hasta 1912, 350 años. En 1822, una revolución en Chios acabaría por convertirse en una masacre de los nativos seguida de la deserción de los invasores. Sin embargo, a pesar de la gran hazaña de Kanaris, que hizo estallar el buque insignia turco, y de la expedición de Favieros en 1827, Chios tuvo que intentar reconstruir su economía todavía bajo el control turco.
El siguiente episodio trágico tuvo lugar en marzo de 1881, cuando un terremoto convirtió toda la zona en ruinas. Durante las batallas de los Balcanes el 11 de noviembre de 1912, Chios había conseguido ya la libertad y estaba conectada con el resto de ciudades griegas. Desgraciadamente, el 4 de mayo de 1941 las tropas alemanas se apoderaron de la isla y no la abandonaron hasta el 10 de septiembre de 1944, periodo durante el cual el pueblo de Chios resistió heroicamente.