中国科学院成立之初，是在政务院文教委员会领导下工作，从党的系统来说，即由文委党组即中宣部党组领导。胡乔木先后担任中宣部的秘书长、常务副部长等职，因此，中科院党组经常向其汇报请示，所以他也被人称为“代理科学院副院长”、“代理院长”。作为主管宣传的领导，胡乔木十分重视科学院的宣传工作，如在1951年9月14日中科院第二次扩大院务会议上，他就谈到“科学家需要做宣传工作”，认为“科学事业的利益需要使人民知道科学是什么，科学家在做什么，科学对人们有什么必要，这种宣传是科学家的义务”。
在这样的背景下，1954年11月，中科院党组向中宣部请示：“为了改进工作,经常取得中央及有关部门的指示与帮助,拟编刊一种内部不定期刊物(每月一期到两期),定名为《科学简讯》，每期以二三千字为限,以集中反映有关科学成就及其存在问题。”刊物的读者定为党中央及各部的负责同志、政府各部委领导等。