山东省足球代表队于1957年开始参加乙级联赛。1977年成功升级，1978年开始参加甲级联赛。1979年球队获得四运会冠军，这是山东足球历史上第一个全国冠军。1989年甲级联赛分为A、B两组，当年球队降入甲B联赛，1990年又降入乙级联赛。1991年球队获得乙级联赛冠军，重新冲回甲B联赛。1992年球队获得甲B联赛第3名，1993年各级联赛因举行七运会而暂停一年。
由于中国足协决定将在1994年实行足球职业化，甲A联赛扩军，球队以1992年甲B联赛第3名的身份获得1994年中国职业足球甲A联赛的参赛资格[1]。
积分使用2-1-0计分系统
赛季
赛事
阶段
场次
胜
平
负
进球
失球
积分
名次
备注
1957
乙级
预赛
5
-
赛区第6
1958
乙级
预赛
9
-
赛区第3
1960
乙级
预赛
13
-
赛区第2
决赛
5
1
3
1
6
5
5
9
7-12名名次赛
1965
乙级
预赛
10
-
赛区第8
1973
全国联赛
预赛
9
4
3
2
14
8
9+1
赛区第4
头球+1分；对旅大队(1-0)不计积分
决赛
12
8
3
1
20
6
18
9
9-20名名次战；对南京队(0-0)不计积分
1974
全国联赛
预赛
11
5
1
5
13
17
11
赛区第6
对南昌队(1-3)不计积分
决赛
3
1
0
2
7
4
2
27
25-28名名次战
1976
全国联赛
预赛
8
5
2
1
15
4
12
赛区第2
决赛阶段未进行
1977
全国联赛
预赛
7
4
1
2
10
7
9
赛区第2
进入全国前12名，次年参加甲级联赛
决一
5
0
2
3
3
7
2
小组第5
决二
5
0
3
2
5
8
3
11
7-12名名次战
1978
甲级
30
9
12
9
29
33
30
8
1979
甲级
30
11
6
13
37
37
28
12
1980
甲级
30
10
12
8
36
28
32
4
1981
甲级
30
20
0
10
66
42
40
亚军
90分钟战平则点球决胜
1982
甲级
30
20
0
10
56
27
40
亚军
90分钟战平则点球决胜，得失球不计点球[2]
1983
甲级
14
11
0
3
20
8
22
南区亚军
120分钟战平则点球决胜，得失球不计点球[3]
1984
甲级
30
14
0
16
23
27
28
8
120分钟战平则点球决胜，得失球不计点球[4]
1985
甲级
15
6
0
9
24
22
12+1
12
国脚+1分；120分钟战平则点球决胜，得失球不计点球[5]
1986
甲级
14
6
6
2
17
6
18
6
1987
甲级A组
14
5
6
3
14
10
21
4
三分制
1988
甲级A组
25
13
8
4
27
13
47+1.5
4
三分制；国脚+1.5分
1989
甲级A组
14
2
8
4
8
10
14
7
三分制；降级到甲B
1990
甲级B组
22
6
9
7
23
32
27
11
三分制；降级到乙级
1991
乙级
-
冠军
半决赛2-1胜上海二队，决赛3-1胜广西，升级到甲级B组
1992
甲级B组
预赛
10
3
5
2
8
7
11
赛区第二
升级到1994甲级A组，1993依然参加甲级B组
决赛
6
1
4
1
6
6
6
季军
1993
甲级B组
预赛
5
2
0
3
7
8
4
赛区第三
未能进入决赛阶段