在大岛浩即将前往德国赴任之际，陆军参谋本部特别要求他认真观察苏德关系的动向并搜集该方面的情报。苏联一直是日本陆军最大的潜在对手，而德国恰恰和日本同时处于苏联的东西两个方向，对于日本陆军来说德国的对苏态度是极其重要的。陆军参谋本部首先考虑的是，日本和苏联之间终有一战，一旦日苏开战德国能否予以积极的合作。
1935年春天，德国亨克尔飞机公司负责向日本陆海军出口工作的哈克试探性地问大岛浩：“不知贵国是否愿意与德国缔结德日军事合作条约来共同对付苏联？”哈克接着解释，“当然这只是里宾特洛甫的个人想法。”早就崇拜德国的大岛浩闻听此言怦然心动。同年10月在哈克家中他第一次见到了里宾特洛甫。两人可谓是一见如故，臭味相投。两人详细密谈了关于缔结军事条约的相关事宜。随后大岛浩立即将此信息报告给参谋本部，同时提议两国为了共同对付苏联缔结军事条约。
日本人对德国有一种盲目的崇拜心理，这也有着相当悠久的传统，尤其是陆军军人更是如此。尽管日本看起来像一个海洋国家，之前英日还曾经有过同盟关系，但从19世纪末起日本就一向自称为“东方普鲁士”，而不以“东方不列颠”自居。希特勒在欧洲迅速崛起之后，其短时间内取得的辉煌成就更令日本人叹服，所以他们对德国的能力几近迷信。服部卓四郎曾经说：“大本营与政府均确信德国不败，这是事实。他们认为德国虽不一定战胜，但绝对不会战败。举凡日本的开战决心及战争计划等，都是在此观念之下形成的。”
人一旦形成了某种观念就很难更改。即使1941年希特勒在莫斯科城下折戟沉沙开始盛极而衰时，日本人对德国的信心还是不曾动摇。基于此种想法，日本人遂决心与德国同生死、共命运，并且确信只要德国不败，则日本当然也不会败。反而言之，假使日本不与德国合作，如果德国胜了，日本将丧失分享胜果的机会。最让日本人害怕的是，一旦德国与西方英美和解的话，则日本将被迫处于完全孤立的地位。至于德国也会失败则是他们认为不可想象的事情。他们早已忘记在一战时他们的偶像德国人就曾经败在自己手下。日本人如此迷信德国，实属不可思议。
基于上述观点，在收到大岛的报告后日本陆军的表现堪称积极。为了摸清德国方面的真实意图，参谋本部一个月后就派出德国情报组组长若松前往柏林，与里宾特洛甫和德国国防部长勃洛姆堡举行了会谈。双方很快达成了一致意见。为了不引起苏联和西方的过度反应，双方认为以大家共同倡导的反共名义更好一些，并草拟出一个共同防共协定。
若松将在德国期间会谈的情况详细向参谋本部做了汇报，但始终与若松一起行动的大岛浩却根本没有向大使馆报告。后来得知此事的大使馆参赞井上庚二郎对此提出了强烈抗议。对此大岛根本不屑一顾，满不在乎地对井上说：“此事属于统帅权范围内的事，理所当然是武官的工作。”言外之意就是你小子狗拿耗子多管闲事。
其实在陆军面前别说你外务省，就连内阁都畏惧退让九分。加上当时准备出任外务大臣的有田八郎是个老糊涂，竟然对大岛主张日德合作的态度表示赞同，还对大岛越殂代疱继续包揽协定谈判工作的事情给予了默认。按道理这些事本应该由驻德外交官来承担的。
就这样1936年11月25日，《反共产国际协定》由日本驻德大使武者小路和里宾特洛甫共同签署生效。德、日同盟走上了“艰难”的第一步。
协定公开宣布的内容不过只是交换有关共产国际活动的情报，在预防措施方面彼此合作而已。但附有一秘密“附约”，规定德日双方不得与俄国签订任何政治性条约。假使有一方受到苏俄的攻击或攻击威胁，则另一方不得采取减轻苏俄负担的任何措施。这也正是之后大岛浩听到苏联和德国背着日本签订互不侵犯条约后恼羞成怒的原因。
准确地说，这一协定并不具有军事同盟的意义。但是里宾特洛甫在签约仪式上致辞时，却已露骨地表示德国对于双方的合作存有更进一步的希望。里宾特洛甫说：“日本将永远不许共产主义在远东流传。德国正在中欧建造反共的长城。而意大利将在南方升起反共的大旗。”
《反共产国际协定》缔结后的第三天的11月28日，苏联外交人民委员李维诺夫就公开谴责了这一协定：“公布于众的防共协定不是什么为对付第三国际的协定，运用正确的语言表达，只不过是其它秘密协定的一种掩护而已”。言外之意，这一协定针对的就是苏联。对这一协定不仅苏联反应强烈，连美英等西方国家也投来了不安的目光。
并不是所有日本人都赞成签署这一协定。当时日本驻英国大使吉田茂预感到这一防共协定将来很有可能转化为军事同盟，这样日本很可能就要与英、美、法为敌，这对日本是极其不利的，因而激烈反对与德国缔结协定。
吉田认为日本军部高估了德国的实力。在吉田眼里，希特勒和墨索里尼只不过是暴发户而已，他们不可能有超过美英法的实力。他提出美英法拥有广阔的领土和殖民地，在人员资源方面都占有绝对优势，其综合实力不容小觑。德日防共协定最终会转化为德日军事同盟，从而使日本很可能被卷进美英法对德意的战争之中。吉田还哪壶不开提哪壶地提出建立新的“英日同盟”。吉田因此被免去职务回家休息。之后局势的发展基本上就如同吉田所预测的一模一样。
希特勒当然不会忘记自己的另一个好兄弟墨索里尼。果然，在第二年的1937年11月，意大利宣布加入《反共协定》，“德、意、日”三国轴心初具雏形。这个协定成为后来德意日三国同盟的基础。
其实在《防共公约》签订之后，德日双方的军事合作关系发展很慢。首先是两国离得太远，想走个亲戚也不容易。再者两国也很忙，都忙于各自的侵略活动，暂时顾不上这摊子事。